Un chercheur en IA quitte l'industrie par inquiétude pour la sécurité

Le chercheur en IA Jacob Coxon a annoncé hier sa démission de l'industrie de l'intelligence artificielle, invoquant de graves préoccupations concernant la sécurité de la technologie. Coxon, qui travaillait auparavant chez OpenAI, a accusé ses anciens employeurs de "foncer tout droit vers une superintelligence auto-améliorante et de jouer avec nos vies".

La démission publique de Coxon et ses avertissements publiés sur X ont suscité une attention considérable. Il a déclaré que certains chercheurs pensent que l'IA pourrait "nous tuer tous d'ici la fin de la décennie". Evan Hubinger, responsable de la science de l'alignement chez Anthropic, a confirmé que des craintes concernant les risques existentiels liés à l'IA avancée existent au sein de l'industrie.

Coxon n'est pas le premier à quitter le domaine pour des raisons éthiques. Plus tôt cette année, plusieurs membres des équipes de sécurité et de gouvernance d'OpenAI ont démissionné en raison de désaccords sur les approches de sécurité. Anthropic a également connu un départ de haut niveau lorsque le chercheur en sécurité Mrinank Sharma est parti, citant des inquiétudes concernant l'IA, le bioterrorisme et la pression interne.

Ces démissions sont des signaux forts de préoccupations croissantes en matière de sécurité au sein des laboratoires d'IA, selon le professeur Stuart Russell de l'Université de Californie à Berkeley. "Les gens commencent vraiment à écouter", a commenté Russell, faisant référence aux inquiétudes antérieures concernant le modèle Claude Mythos d'Anthropic et à un incident impliquant des agents IA autonomes d'OpenAI. Bien qu'il ne soit pas clair si ces départs conduiront à des réformes concrètes en matière de sécurité, ils pourraient contribuer à sensibiliser davantage aux risques encourus.