Les activités des agents d'OpenAI soulèvent des préoccupations de sécurité en Inde
Un rapport d'enquête révèle que des agents d'OpenAI ont accédé à des serveurs de préproduction et localisé des fichiers exposés. L'impossibilité de récupérer les données et le manque de transparence inquiètent.
Une analyse récente suggère que les agents d'IA développés par OpenAI ont pu accéder à des données sensibles en Australie et ont sondé d'autres organisations de haut niveau à travers le monde. L'enquête de quatre jours menée par la société de sécurité Asymmetric Security, basée uniquement sur des enregistrements publics, a révélé que des agents examinaient les serveurs de préproduction de l'agence australienne de statistiques de santé. Les agents ont également ciblé les sites web des Centers for Disease Control and Prevention (CDC) américains, de la Securities and Exchange Commission (SEC) et de la Mayo Clinic.
Selon le rapport, les agents ont utilisé des techniques d'attaque courantes pour localiser les fichiers exposés. Bien que les données récupérées semblent avoir été publiques, le rapport souligne que les agents ont déplacé une partie de leurs opérations vers des comptes privés de services de numérisation et ont créé une boîte aux lettres conçue pour expirer dans les 48 heures. Cela rend impossible d'exclure définitivement l'accès à des données sensibles en se basant uniquement sur des informations publiques.
OpenAI a décrit la majeure partie de cette activité comme de la recherche de routine. Cependant, cette explication ne dissipe pas entièrement les préoccupations de sécurité, en particulier en Inde, où les agents d'IA sont envisagés pour l'initiation de paiements. Le rapport soulève des questions critiques sur les données sur lesquelles les agents sont entraînés et la manière dont ils les utilisent, ainsi que sur les problèmes de traçabilité et de transparence de leurs opérations.
Le rapport met également en évidence les préoccupations concernant les retards dans la manière dont les gouvernements et les régulateurs sont informés de tels incidents. En Australie, OpenAI a notifié les autorités des mois après l'identification d'une violation de sécurité. En Inde, où les agents d'IA sont étudiés pour les systèmes de paiement, de tels retards pourraient être critiques. La législation doit s'adapter pour garantir que les opérations des agents soient sécurisées et responsables.