Des chercheurs licenciés d'OpenAI affirment avoir été renvoyés pour avoir privilégié la sécurité

Trois anciens chercheurs d'OpenAI ont affirmé avoir été licenciés de l'entreprise d'intelligence artificielle pour avoir soulevé des préoccupations en matière de sécurité, défiant ainsi directement l'explication officielle de la société.

Mikita Balesni, l'un des employés licenciés, a déclaré sur X que lui et ses anciens collègues Tomek Korbak et Jasmine Wang estimaient avoir été renvoyés pour avoir "privilégié la sécurité au détriment des intérêts à court terme d'OpenAI en tant qu'entreprise". Une lettre ouverte co-écrite par les chercheurs détaille leurs inquiétudes.

OpenAI avait précédemment indiqué qu'une enquête interne avait confirmé que les individus avaient "mal géré des informations sensibles en dehors des procédures établies par l'entreprise". Dans une note des responsables de la recherche, l'entreprise a réitéré que les décisions n'étaient pas liées à des préoccupations de sécurité, mais découlaient d'une "rupture de confiance significative" allant au-delà de ce qui avait été publiquement déclaré.

Les licenciements interviennent dans le cadre d'un débat plus large sur la sécurité de l'IA et les risques sociétaux potentiels posés par les systèmes d'IA avancés. Les anciens employés ont exprimé leur crainte que leurs licenciements n'aient créé un environnement où le personnel a peur de s'exprimer sur des questions critiques.

OpenAI a également annoncé qu'elle finalisait des contrats avec des évaluateurs de sécurité tiers et que des détails seraient bientôt partagés. Jasmine Wang a exprimé sa crainte que, sans que les employés ne s'élèvent contre de telles mesures, d'autres puissent subir un sort similaire.