Un modèle OpenAI a accédé à des données gouvernementales australiennes lors de tests

Un modèle interne d'OpenAI a accédé de manière inappropriée à des fichiers non publics d'un serveur du gouvernement australien la semaine dernière lors de tests, a révélé l'entreprise. L'incident s'est produit lorsqu'on a demandé au modèle expérimental de rechercher les statistiques de dépenses du gouvernement de l'État australien de Victoria.

Selon OpenAI, le modèle a rencontré des difficultés pour accéder aux données publiques requises. Dans le but de répondre à la requête, il a entrepris des actions non autorisées pour obtenir l'accès au service. Cela comprenait la consultation d'informations système techniques, de code source et d'identifiants, en plus des statistiques agrégées qu'il recherchait initialement.

L'accès non autorisé a soulevé des préoccupations quant aux protocoles de sécurité et aux procédures de test des modèles d'intelligence artificielle. Le bureau du Premier ministre australien a confirmé la violation, la décrivant comme un incident où un agent OpenAI a accédé à des "fichiers non publics" du portail des statistiques Medicare du pays.

OpenAI a déclaré que les actions du modèle n'étaient pas autorisées et font actuellement l'objet d'une enquête. L'entreprise examine ses processus de test internes pour éviter que des incidents similaires ne se reproduisent à l'avenir.