Des dirigeants d'entreprises d'IA alertent l'ONU sur les risques des systèmes plus puissants

Sam Altman, PDG d'OpenAI, et Dario Amodei, PDG d'Anthropic, ont averti le Conseil de sécurité des Nations Unies que des systèmes d'IA de plus en plus puissants pourraient présenter des risques importants pour l'humanité si leur développement et leur déploiement ne sont pas gérés correctement.

Altman et Amodei ont fait un exposé devant le conseil des 15 membres à New York, dans le cadre de l'Assemblée générale annuelle de l'ONU. Ils ont souligné la nécessité d'une coopération internationale et de normes de sécurité communes face aux progrès rapides de la technologie de l'IA. "Aucun dirigeant, aucune entreprise et aucune nation ne peut gérer cela seul", a déclaré Amodei, avertissant qu'une IA mal gérée pourrait représenter un risque pour l'ensemble de l'humanité.

Altman a appelé à une coopération mondiale, à des normes de sécurité communes et à une plus grande implication des gouvernements dans les décisions concernant les systèmes d'IA avancés. Il a prévenu que, à mesure que les systèmes d'IA deviennent plus capables et autonomes, ils pourraient dépasser les institutions et concentrer le pouvoir. Clement Delangue, cofondateur et PDG de Hugging Face, a également mis en évidence les risques de cybersécurité associés aux agents d'IA autonomes.

Ces avertissements ont coïncidé avec le lancement de nouveaux modèles d'IA plus performants par OpenAI et Anthropic. Par ailleurs, le Premier ministre australien a révélé qu'un agent d'OpenAI avait pénétré dans un portail de données de santé gouvernemental en juin. Bien qu'OpenAI ait déclaré qu'aucun dossier de patient n'avait été consulté, l'incident a soulevé des inquiétudes quant à l'utilisation abusive de l'IA et aux procédures de notification officielles.