La FTC enquête sur les entreprises d'IA OpenAI et Anthropic

La Federal Trade Commission (FTC) américaine a lancé une enquête sur les principales entreprises d'intelligence artificielle, dont OpenAI et Anthropic. Cette enquête intervient dans un contexte de préoccupations croissantes concernant les risques posés par les systèmes d'IA et une augmentation des agents d'IA dits "débridés".

Selon les informations, le président de la FTC, Andrew Ferguson, aurait initié les enquêtes avant même les rapports concernant la violation de données de Hugging Face par OpenAI. L'agence prévoit de contraindre les PDG des grandes entreprises d'IA à témoigner à l'avenir sur les risques de leurs systèmes d'IA.

"Le président Ferguson a lancé une enquête sur les principales entreprises d'IA il y a quelques semaines", a déclaré un responsable de la FTC au New York Post, le premier à rapporter la nouvelle. "L'agence prévoit de contraindre les dirigeants de ces entreprises à témoigner sur leur produit et sur les dangers que leurs produits pourraient, selon eux, représenter pour les consommateurs et les Américains."

L'enquête de la FTC fait suite à la démission d'un ancien chercheur en sécurité de l'IA, qui avait exprimé des inquiétudes quant aux risques de l'IA non régulée, y compris la possibilité d'une extinction humaine. Certains législateurs ont depuis appelé à des réglementations rapides sur cette technologie.

De plus, l'administration Trump a signé un décret renommant l'intelligence artificielle en "super intelligence", une mesure qui a suscité des critiques de la part des législateurs. L'administration a également cherché à conclure des accords de sécurité volontaires avec les entreprises d'IA.