OpenAI licencie trois chercheurs dans un litige sur la sécurité de l'IA
OpenAI a licencié vendredi trois chercheurs spécialisés dans la sécurité de l'IA, invoquant une "rupture de confiance". Les chercheurs affirment avoir été renvoyés pour avoir privilégié les préoccupations de sécurité aux intérêts commerciaux de l'entreprise.
La société d'intelligence artificielle OpenAI a annoncé vendredi avoir licencié trois chercheurs spécialisés dans la sécurité. L'entreprise a justifié ces licenciements par une "rupture de confiance" et une violation des "politiques claires concernant la gestion des informations sensibles".
Cette décision fait suite à une lettre envoyée par les chercheurs, Tomek Korbak, Jasmine Wang et Mikita Balesni, aux groupes de supervision de la sécurité d'OpenAI. Dans ce courrier, ils détaillaient les circonstances de leur licenciement et exprimaient leur inquiétude quant à une priorisation des intérêts commerciaux sur la sécurité.
Les chercheurs ont mis en garde contre le risque que la gestion de leurs licenciements n'entrave la culture d'OpenAI favorisant la discussion ouverte sur les questions de sécurité. Ils ont exhorté OpenAI à tenir son engagement d'autoriser des superviseurs de sécurité externes et à préserver la capacité de surveiller les modèles d'IA en rapide évolution qui pourraient présenter des risques inconnus.
Ces licenciements, rapportés initialement par le Wall Street Journal, soulignent les tensions actuelles au sein des principales entreprises d'IA concernant la sécurité de leur technologie. OpenAI a contesté le récit des chercheurs, affirmant que les licenciements "ne concernaient pas des préoccupations de sécurité ou des prises de parole", et a souligné la nécessité "d'un haut degré de confiance" pour mener à bien ses travaux.