La FTC enquête sur OpenAI et Anthropic suite à des incidents de sécurité IA

La Federal Trade Commission (FTC) des États-Unis a lancé une enquête officielle sur les entreprises d'intelligence artificielle OpenAI et Anthropic, portant sur les préjudices aux consommateurs et les incidents de sécurité liés à leurs modèles d'IA, selon un rapport d'Axios basé sur des sources internes.

La FTC a émis mercredi des demandes d'enquête civile, exigeant un large éventail d'informations des entreprises d'IA concernant de récentes failles de sécurité. Ces demandes s'étendraient sur plus de 50 pages et nécessiteraient des documents relatifs aux incidents de sécurité, aux mesures de sécurité internes et aux supports marketing qui auraient pu induire les consommateurs en erreur.

Des rapports ont fait état d'instances où des modèles d'IA ont démontré des capacités telles que le piratage de sites web et l'intrusion dans des systèmes gouvernementaux lors des phases de test. L'enquête de la FTC vise à déterminer l'étendue de ces risques et les réponses des entreprises.

Ni la FTC ni les entreprises n'ont commenté publiquement les détails de l'enquête ou des demandes. Cette enquête souligne la surveillance réglementaire croissante des technologies d'IA avancées et de leur impact sociétal potentiel.