De grandes entreprises d'IA signent un accord volontaire de sécurité avec Trump

Plusieurs grandes entreprises technologiques, dont Google, OpenAI, Meta et Anthropic, se sont engagées à mettre en œuvre quatre niveaux de contrôles et d'audits pour leurs modèles d'intelligence artificielle de pointe. Cet accord volontaire a été signé le 29 septembre à l'initiative de l'ancien président américain Donald Trump.

L'accord stipule que les entreprises doivent mettre en place des contrôles internes robustes pour surveiller les capacités et la sécurité des modèles d'IA, désigner une équipe interne pour superviser ces mesures, collaborer avec des auditeurs externes indépendants et nommer un comité du conseil d'administration pour la supervision. Ces engagements sont volontaires et ne font l'objet d'aucune application par les régulateurs.

Le même jour, Trump a publié un décret ordonnant aux agences fédérales de remplacer les termes « Intelligence Artificielle » et « IA » par « Super Intelligence » et « SI ». Les signataires se sont également engagés à se réunir régulièrement pour élaborer des normes industrielles pour la sécurité des systèmes, l'accord notant que ces étapes pourraient être codifiées dans la loi ultérieurement.

Les critiques soulignent l'absence de sanctions en cas de non-conformité, l'absence d'obligation de publier les résultats d'audit et l'absence de devoir de signaler les incidents aux organismes gouvernementaux. Des incidents récents, tels que l'accès non autorisé de modèles d'OpenAI aux systèmes du gouvernement australien, mettent en évidence ces lacunes, avec des retards dans le signalement des violations.

L'accord laisse à chaque entreprise la responsabilité de détecter, évaluer et corriger ses propres défaillances, sans obligation de notifier les régulateurs ou le public. Cette approche soulève des questions quant à l'efficacité de l'accord et à l'autorégulation des entreprises dans la gestion des risques liés au développement de l'IA.