Des responsables fédéraux s'inquiètent de l'entraînement par Amazon de son IA sur des données gouvernementales

Des responsables fédéraux américains ont exprimé une inquiétude temporaire quant à la possibilité qu'Amazon entraîne ses systèmes d'intelligence artificielle (IA) en utilisant des données gouvernementales, selon des documents obtenus par Fast Company. Cet incident souligne la dépendance croissante des agences fédérales américaines envers les grands fournisseurs de services cloud comme Amazon pour l'hébergement de logiciels et de données sensibles.

Ces préoccupations ont émergé début 2024 lorsqu'un responsable informatique de la Securities and Exchange Commission (SEC) a remarqué les conditions d'utilisation mises à jour par Amazon. Ces mises à jour, a écrit le responsable, pourraient permettre l'utilisation de données en dehors de l'environnement d'un client, voire en dehors des États-Unis, pour l'entraînement de l'IA. Le responsable a exhorté les agences fédérales à refuser cette utilisation des données, la qualifiant de "fuite de données potentielle urgente", et a identifié des services tels qu'Amazon Rekognition, Amazon Polly et Amazon Comprehend comme potentiellement affectés.

Amazon est un concurrent majeur pour les contrats cloud fédéraux, ayant annoncé des plans d'investissement allant jusqu'à 50 milliards de dollars dans les services informatiques gouvernementaux. La question a également attiré l'attention du FBI, qui aurait mené une brève enquête sur une exposition potentielle. Amazon a ensuite clarifié au FBI que ses services étaient hébergés sur des systèmes cloud distincts et que les changements n'affecteraient pas les données du FBI.

Les experts notent que de telles confusions sont courantes dans l'approvisionnement technologique gouvernemental. Les responsables des achats peuvent manquer de l'expertise technique nécessaire pour comprendre pleinement des conditions de service complexes, ce qui pourrait entraîner une utilisation involontaire ou intentionnelle des données pour l'entraînement de l'IA. La SEC a refusé de commenter, et Amazon n'a pas répondu à plusieurs demandes de commentaires.