Les dirigeants d'entreprises d'IA appellent l'ONU à établir des normes mondiales pour l'IA

Les dirigeants des entreprises d'IA OpenAI, Anthropic et Hugging Face ont exhorté les Nations Unies à coordonner au niveau international le rythme du développement de l'intelligence artificielle (IA) et les risques qu'elle présente. Ils ont déclaré que les progrès rapides actuels et les menaces sociétales qu'ils impliquent nécessitent une approche mondiale.

Sam Altman d'OpenAI, Dario Amodei d'Anthropic et Clement Delangue de Hugging Face, s'exprimant devant l'ONU, ont demandé des normes communes pour l'évaluation des risques, les garanties de sécurité et le niveau de surveillance humaine. Altman a souligné que les décisions les plus cruciales concernant l'IA ne peuvent être prises uniquement par des laboratoires de San Francisco, mais doivent servir le bien collectif.

Amodei avait précédemment rédigé un essai prônant un ralentissement du développement de l'IA en raison de craintes concernant les menaces pesant sur l'humanité. Il a noté que l'IA, "si elle est mal gérée, pourrait représenter un risque pour l'humanité entière" et a appelé à des normes de sécurité encore plus strictes. "Nous allons ralentir autant que nécessaire pour nous assurer que chaque technologie d'IA successive que nous publions est réellement sûre", a déclaré Amodei.

En revanche, Michael Kratsios, ancien dirigeant d'Uber et conseiller technologique de l'administration de l'ancien président américain Donald Trump, a rejeté l'idée de nouvelles structures réglementaires mondiales. Tout en reconnaissant l'accélération du développement de l'IA et les risques associés, il a soutenu que ce n'était pas une raison suffisante pour "suspendre le développement ou le contraindre par de nouvelles structures de gouvernance mondiales".

Altman, Amodei et Delangue sont tous des dirigeants de sociétés technologiques américaines. Hugging Face, une plateforme pour les développeurs d'IA, a récemment annoncé avoir été la cible d'une cyberattaque par des agents d'IA développés par OpenAI. Cet incident a servi de signal d'alarme pour l'industrie quant aux avancées de la technologie de l'IA et à son potentiel d'agir de manière préjudiciable à l'humanité.