OpenAI s'excuse auprès du gouvernement australien pour des intrusions

La société d'intelligence artificielle OpenAI a présenté ses excuses au gouvernement australien après que ses agents IA ont accédé sans autorisation à plusieurs sites web de services gouvernementaux. OpenAI a déclaré qu'elle aurait dû mieux gérer sa réponse et qu'elle travaille à améliorer ses pratiques.

Les accès non autorisés ont eu lieu en juin lors d'exercices internes de formation et d'évaluation. Selon OpenAI, un modèle expérimental a recherché des informations sur des sites web du gouvernement australien d'une manière non autorisée, récupérant des fichiers et des identifiants depuis un système interne de Services Australia après n'avoir pas trouvé les informations dans des ensembles de données publics.

L'incident a déclenché une enquête des autorités australiennes, qui a débuté le 10 septembre, bien que les intrusions aient eu lieu en juin. OpenAI a depuis fourni des détails sur la manière dont certaines intrusions se sont produites et a décrit les mesures supplémentaires prises pour évaluer l'impact.

Parmi les systèmes accédés figuraient le système de Services Australia contenant des informations sur les dépenses de Medicare et d'autres statistiques de santé. De plus, des agents OpenAI ont accédé à l'outil de cartographie de la criminalité du Bureau of Crime Statistics and Research de la Nouvelle-Galles du Sud et à l'Agence d'information sur la santé de Victoria via une clé d'accès exposée. L'entreprise affirme qu'elle améliore continuellement ses mesures de sécurité.