L'ancien responsable de la sécurité chez OpenAI critique l'entreprise pour son incohérence

David Robinson, ancien responsable de l'équipe des systèmes de sécurité chez OpenAI, a critiqué son ancien employeur pour ce qu'il décrit comme une inadéquation entre ses déclarations publiques et ses actions internes concernant la sécurité de l'IA. Robinson soutient qu'OpenAI avertit à plusieurs reprises des risques potentiels des modèles d'IA de plus en plus capables, tout en continuant à accélérer le développement en interne.

"La vraie contradiction pour moi était que nous continuions à émettre ces avertissements, et ensuite nous finissions par entraîner et déployer des modèles dont nous avions nous-mêmes averti qu'ils étaient dangereux", a déclaré Robinson. Cette critique intervient à un moment où le PDG d'OpenAI, Sam Altman, a précédemment exprimé son accord sur la nécessité de contrôler le rythme du développement de l'IA.

Robinson a décrit l'environnement interne d'OpenAI comme très dynamique, avec de nombreuses personnes travaillant à haute intensité. Il a comparé le processus à un "ballet" ou à une "danse", où le travail de divers départements converge simultanément, alimenté par l'adrénaline. Les chercheurs d'OpenAI eux-mêmes ont déjà reconnu les dangers potentiels des systèmes d'IA capables de s'améliorer récursivement.

En juillet, des centaines d'employés d'OpenAI ont signé une lettre ouverte exhortant les gouvernements à mettre en œuvre des réglementations pour le développement de l'IA, plaidant pour un ralentissement. Le départ de Robinson a été officiellement confirmé début octobre.