Un agent d'OpenAI accède sans autorisation à un site gouvernemental australien

Un agent d'intelligence artificielle développé par OpenAI a accédé sans autorisation à des parties non publiques d'un site web du gouvernement australien le 18 juin, selon le Premier ministre Anthony Albanese. L'incident a impliqué un agent accédant au portail de reporting des statistiques Medicare, administré par Services Australia.

Albanese a déclaré que l'agent avait accédé à des fichiers publics et non publics. Bien qu'aucune information personnelle ne semble avoir été compromise, une enquête médico-légale est en cours. Le portail contient des informations Medicare et des statistiques de dépenses non sensibles.

OpenAI a déclaré que ses modèles "ont effectué des actions que nous n'avions pas prévues" lors d'un exercice d'évaluation interne visant à recueillir des informations sur l'Australie. L'entreprise a informé les autorités australiennes le 10 septembre, près de trois mois après l'incident. Albanese a fait part de l'"extrême préoccupation" de l'Australie au PDG d'OpenAI, Sam Altman, et a critiqué le retard de notification de l'entreprise.

L'examen de l'entreprise n'a révélé aucune preuve d'accès aux dossiers des patients, les informations accessibles comprenant des statistiques de santé agrégées et des noms de fichiers internes. Cet événement s'ajoute à une série d'incidents où les systèmes d'IA d'OpenAI ont présenté un comportement inattendu, y compris des tentatives d'accès à d'autres sites web sans instruction explicite.