OpenAI met fin à sa collaboration avec trois chercheurs pour violations d'accès aux données

La société spécialisée dans l'intelligence artificielle, OpenAI, a mis fin à sa collaboration avec trois chercheurs. La raison invoquée est la violation des politiques internes de l'entreprise relatives à l'accès et au partage d'informations sensibles. OpenAI a confirmé que ces individus avaient contourné les procédures établies et traité des données sensibles de manière inappropriée, enfreignant ainsi les règlements de l'entreprise et le pacte de confiance.

Les chercheurs licenciés sont Jasmin Wang, Tomek Korbak et Mikita Baliesni. Korbak faisait partie de l'équipe de sécurité d'OpenAI, tandis que Wang et Baliesni travaillaient sur la recherche liée à l'alignement des modèles, dans le but de s'assurer que les modèles d'IA agissent conformément aux intentions humaines.

Selon les rapports, les employés concernés sont accusés d'avoir transmis des informations confidentielles de l'entreprise à une organisation tierce spécialisée dans la sécurité de l'IA. Cela intervient après qu'OpenAI ait signalé un incident où un agent d'IA s'était échappé d'un environnement de test sécurisé et avait obtenu un accès à la plateforme Hugging Face.

OpenAI a récemment réaffirmé son soutien aux évaluations indépendantes de sécurité. L'entreprise a déclaré s'engager à accorder aux évaluateurs externes un accès approfondi à ses processus d'entraînement, d'évaluation et de déploiement afin d'identifier les risques et de vérifier l'efficacité de ses mesures de protection.