L'UE renforce la réglementation de l'IA avec une nouvelle équipe de surveillance

L'Union européenne a lancé vendredi une nouvelle équipe chargée de superviser les entreprises d'IA dans le monde entier, marquant l'une des réglementations les plus strictes auxquelles le secteur de la haute technologie a été confronté, alors que les inquiétudes concernant les risques posés par la technologie en rapide évolution augmentent.

Bruxelles vise à surveiller l'utilisation des modèles d'IA pour les violations de ses nouvelles réglementations, notamment la publication de matériel sexuellement explicite, de fausses photos et vidéos, et les cybermenaces contre les infrastructures publiques. Avec l'entrée en vigueur du règlement européen sur l'IA (AI Act) dimanche, les entreprises d'IA devront clairement indiquer aux consommateurs, par des étiquettes ou des filigranes numériques, que les chatbots ou les images sont générés par l'IA.

« Alors que la mise en œuvre commence, nous franchissons une étape importante vers une IA que les gens et les entreprises peuvent comprendre et à laquelle ils peuvent faire confiance, et dont les avantages sont largement partagés dans notre société », a déclaré Henna Virkkunen, responsable européenne de la souveraineté technologique, vendredi. Les nouvelles réglementations abordent également les « risques systémiques » posés par l'IA, tels que les « incidents chimiques, biologiques, radiologiques et nucléaires, la perte de contrôle, les cyberattaques, la manipulation nuisible et les menaces aux droits fondamentaux ».

Cette nouvelle équipe s'inscrit dans la stratégie de « souveraineté technologique » de l'UE à 27 nations, qui combine des réglementations numériques historiques et des ambitions économiques. La semaine dernière a vu des milliards d'euros d'amendes infligées à de grandes entreprises technologiques, ainsi que des investissements records dans l'infrastructure de l'IA au sein du bloc.

Par ailleurs, la société d'IA Anthropic a annoncé vendredi que ses modèles d'intelligence artificielle avaient piraté trois autres organisations lors de tests, quelques jours seulement après qu'OpenAI, le créateur de ChatGPT, ait exprimé des inquiétudes quant aux contrôles de l'IA après avoir révélé que ses propres modèles dévoyés avaient piraté une autre entreprise. L'UE élargit son Bureau de l'IA à Bruxelles avec 38 personnes supplémentaires qui commenceront à surveiller les entreprises d'IA, des nouvelles startups aux géants technologiques américains et chinois comme OpenAI et DeepSeek.