Le roi Charles III rencontre des dirigeants de l'IA dans un contexte de préoccupations sécuritaires

Le roi Charles III a exhorté jeudi les hauts dirigeants des grandes entreprises d'intelligence artificielle (IA) à veiller à ce que la technologie reste sous contrôle humain et au service des personnes et de la planète. La réunion, qui s'est tenue en Écosse, a rassemblé des cadres d'OpenAI, d'Anthropic, de Google DeepMind et de Nvidia.

L'objectif de cette rencontre était de discuter des avantages de l'IA pour la société, dans un contexte de débat mondial croissant sur les risques de progrès rapides susceptibles de dépasser la supervision humaine. Le Roi a souligné que le rythme et la substance du développement de l'IA sont à la fois fascinants et profondément préoccupants, insistant sur la nécessité d'examiner urgemment les utilisations potentiellement dangereuses et d'établir des mécanismes de contrôle suffisants.

Les participants, dont le PDG de Nvidia, Jensen Huang, et le président de Google DeepMind, Demis Hassabis, ont été invités par le Roi à réfléchir aux principes fondamentaux guidant le développement de l'IA. Les discussions ont également porté sur le renforcement de la coopération internationale et du consensus pour assurer un déploiement sûr de l'IA.

La réunion s'est déroulée au Dumfries House en Écosse, faisant suite à de récents rapports signalant des comportements inattendus ou préoccupants de la part des modèles d'IA, soulevant des questions sur la sécurité et l'orientation future de cette technologie. Bien que les commentaires du Roi aient une certaine influence, une grande partie du discours actuel sur la sécurité de l'IA implique les géants de la technologie américains et leur concurrence mondiale.