OpenAI : le responsable de la sécurité quitte l'entreprise, suivi par d'autres cadres

Johannes Hiken, responsable de l'équipe des systèmes de sécurité d'OpenAI, quitte l'entreprise, rejoignant ainsi une liste croissante de personnel clé ayant quitté les efforts de sécurité et d'alignement de la société d'IA ces dernières années. OpenAI a confirmé le départ de Hiken, déclarant que le travail de recherche et de sécurité sera désormais dirigé par Mia Glazer, qui occupera le poste de vice-présidente de la recherche et de la sécurité.

Le départ de Hiken met en lumière les préoccupations persistantes au sein d'OpenAI concernant sa culture de sécurité et sa priorisation au milieu du développement rapide de l'IA. Plusieurs anciens employés ont publiquement exprimé leurs critiques, suggérant une plus grande emphase sur les lancements de produits par rapport à des mesures de sécurité robustes.

L'entreprise a déclaré que l'intégration plus approfondie de la sécurité dans la recherche était cruciale, soulignant le lien entre la compréhension des capacités des modèles et la prise de décisions de sécurité judicieuses, et vice versa. Cela intervient alors qu'OpenAI s'efforce de garantir que l'IA avancée profite à l'humanité.

La mission d'OpenAI visant à garantir que l'intelligence artificielle générale (IAG) profite à l'humanité a été éclipsée par des changements fréquents au sein de la direction responsable de la sécurité et de l'alignement. Parmi les départs notables figurent des cofondateurs et des responsables de projets critiques, certains anciens employés ayant créé leurs propres entreprises axées sur la sécurité ou rejoint des organisations concurrentes.