La lanceuse d'alerte Haugen doute de la capacité d'auto-régulation des entreprises d'IA

Frances Haugen, ancienne employée de Facebook et lanceuse d'alerte de renom, a exprimé son scepticisme quant à la capacité des entreprises d'intelligence artificielle à s'autoréguler efficacement. Haugen a suggéré que les entreprises pourraient se conformer à la lettre des règlements tout en contournant leur intention, particulièrement au sein de systèmes technologiques flexibles.

Ses remarques interviennent peu après un accord récent avec la Maison Blanche impliquant plusieurs dirigeants d'IA, visant à établir des directives de sécurité. Haugen a souligné que ces entreprises doivent "se montrer à la hauteur et se conformer" à l'esprit de cet accord.

Haugen a gagné en notoriété en 2021 après avoir divulgué des documents internes de Facebook au Wall Street Journal. Ces documents ont révélé la conscience qu'avait l'entreprise des effets néfastes de ses plateformes sur la santé mentale des adolescents, une histoire qui a ensuite inspiré le film "The Social Reckoning".

Tout en reconnaissant le débat croissant autour des risques potentiels de l'IA, Haugen a déclaré que les entreprises d'IA ont été "plus proactives" dans la gestion des préoccupations de sécurité par rapport aux années précédentes. Elle a cité Anthropic et son PDG Dario Amodei, partisans d'audits indépendants, comme une indication que les entreprises reconnaissent le potentiel de prendre des raccourcis en l'absence de surveillance externe.