La FTC enquête sur les allégations de sécurité des entreprises d'IA

La Federal Trade Commission (FTC) a lancé une enquête sur plusieurs entreprises d'intelligence artificielle, y compris OpenAI et Anthropic, concernant les risques potentiels que leurs produits pourraient présenter aux consommateurs. L'enquête a été ouverte récemment et précède un événement à la Maison Blanche sur la sécurité de l'IA tenu mardi. L'agence n'a pas encore précisé quelles autres entreprises sont impliquées ni quelles déclarations ou pratiques spécifiques font l'objet d'un examen.

La FTC prévoit de demander des documents d'entreprise et des témoignages de dirigeants dans les semaines à venir. L'agence sollicitera également des informations auprès de METR, un évaluateur externe qui a enquêté sur un incident de sécurité chez OpenAI. La raison pour laquelle le matériel de METR est nécessaire n'a pas été divulguée. Cette enquête intervient un jour après que plusieurs grandes entreprises technologiques ont accepté volontairement un accord sur la sécurité de l'IA avec l'administration américaine.

L'enquête clarifie comment l'administration pourrait réguler l'IA sans introduire de nouveaux ensembles de règles. Le président de la FTC, Andrew Ferguson, a soutenu que les lois existantes sont suffisantes pour traiter de nombreux problèmes liés à l'IA. La FTC utilise son autorité existante sur les pratiques déloyales ou trompeuses, plutôt que de créer de nouvelles règles spécifiquement pour l'IA.

Bien que la FTC puisse agir contre les pratiques trompeuses ou déloyales qui nuisent aux consommateurs, elle ne fixe pas les normes de sécurité techniques pour les systèmes d'IA. L'enquête se concentre sur la question de savoir si les entreprises ont fait des déclarations trompeuses sur la sécurité ou les risques de leurs produits pour les consommateurs. Les premières contraintes juridiques importantes sur l'IA pourraient ainsi découler de l'application d'anciennes règles à de nouvelles technologies.