Des chercheurs licenciés par OpenAI démentent des fuites et pointent un conflit sur la transparence
Trois chercheurs en sécurité d'OpenAI ont été licenciés pour des fuites présumées, mais ils estiment que leur éviction est liée à leurs critiques sur le manque de transparence des modèles d'IA.
Tomek Korbak, Mikita Balesni et Jasmine Wang ont été renvoyés par OpenAI après une enquête interne alléguant une mauvaise gestion d'informations confidentielles. Les chercheurs contestent fermement ces accusations, affirmant que l'entreprise n'a jamais fourni de preuves écrites de leurs manquements. Ils suggèrent que leur licenciement est une réponse à leurs efforts pour imposer une plus grande transparence dans le processus de réflexion des systèmes d'IA.
Le différend porte sur la capacité des acteurs externes à auditer les étapes intermédiaires de raisonnement des modèles d'IA. Les chercheurs ont plaidé pour le maintien de ces traces d'audit, alors que la tendance actuelle des entreprises technologiques est de limiter la visibilité sur ces données. OpenAI affirme que ces départs ne sont pas liés aux préoccupations de sécurité exprimées par le trio.
L'affaire souligne les tensions croissantes entre les entreprises d'IA et les auditeurs indépendants sur la gestion de la sécurité. Les chercheurs craignent que cet événement ne dissuade les employés de signaler des vulnérabilités. OpenAI a de son côté indiqué avoir corrigé des failles dans son infrastructure et préparer de nouvelles collaborations externes.