Des insiders de l'IA tirent la sonnette d'alarme et démissionnent

Plusieurs experts de haut niveau en intelligence artificielle ont récemment démissionné d'entreprises technologiques de premier plan, dont OpenAI et Google DeepMind. Ces départs sont motivés par des inquiétudes croissantes concernant la vitesse du développement de l'IA, des protocoles de sécurité inadéquats et des allégations de violation du droit d'auteur. Parmi les personnes ayant quitté l'entreprise figurent David Robinson, ancien responsable de la sécurité chez OpenAI, et Jan Leike, ancien responsable de l'équipe Superalignment.

Robinson a critiqué l'approche par "essais et erreurs" privilégiée par les entreprises d'IA, appelant à y mettre fin. Leike a déclaré que la culture de sécurité avait été mise de côté au profit du développement de produits. D'autres employés ont également quitté des entreprises comme Stability AI et Anthropic, invoquant des inquiétudes concernant les questions de droit d'auteur et les impacts négatifs potentiels de l'IA, tels que la désinformation et l'accroissement des inégalités.

Les préoccupations internes ont également été amplifiées par des déclarations collectives. En mai, 13 employés actuels et anciens ont publié une lettre avertissant des risques que représente l'IA avancée pour l'humanité, y compris une perte potentielle de contrôle. Des chercheurs renommés en IA, tels que Yoshua Bengio et Geoffrey Hinton, ont soutenu cet appel à la prudence. Une déclaration intitulée "Pacing the Frontier", signée par plus de 1386 employés d'IA, souligne la nécessité de ralentir le développement de l'IA afin de laisser plus de temps aux mesures de sécurité.

Certains chercheurs démissionnaires sont également impliqués dans des procédures judiciaires. Suchir Balaji, un ancien employé d'OpenAI, a soulevé des allégations de violation du droit d'auteur et a été un témoin potentiel dans le procès intenté par The New York Times contre OpenAI. Alex Turner a témoigné devant le Sénat américain sur les risques de l'IA, en particulier concernant son utilisation à des fins militaires et de surveillance de masse.

Ces vagues de démissions et d'avertissements publics soulignent une tension croissante entre le progrès rapide de l'IA et sa mise en œuvre sûre et éthique. Il existe une division claire au sein de l'industrie entre ceux qui privilégient un progrès rapide et ceux qui prônent une approche plus prudente et réglementée.