Des chercheurs d'OpenAI contestent les accusations de mauvaise conduite et alertent sur un "effet dissuasif"

Trois chercheurs en sécurité, récemment licenciés d'OpenAI, ont publié une lettre ouverte contestant les allégations de l'entreprise concernant une mauvaise gestion d'informations sensibles. Les chercheurs affirment avoir été licenciés sans procédure appropriée, et que leurs licenciements envoient un signal négatif à la culture de sécurité interne de l'entreprise.

La lettre exprime la préoccupation que leur cas crée un effet dissuasif (chilling effect), dissuadant potentiellement d'autres employés de soulever des problèmes de sécurité ou de critiquer les orientations de développement de l'entreprise. Ils soulignent que leur travail était crucial pour la protection d'une organisation développant en toute sécurité une "Superintelligence" (AGI).

La direction d'OpenAI avait précédemment déclaré que les chercheurs n'avaient pas agi de manière ouverte et collaborative. Cependant, les chercheurs soutiennent que leurs actions étaient conformes à leurs fonctions et que leurs efforts pour promouvoir la sécurité ont été constants.

Cette situation soulève des questions sur le flux d'informations interne d'OpenAI et la manière dont l'entreprise gère les retours critiques lors du développement d'une technologie potentiellement révolutionnaire. Selon les chercheurs, leur licenciement pourrait entraver les progrès en matière de développement d'une IA sécurisée.