Google, OpenAI et Anthropic créent un groupe de normes de sécurité IA

Google, OpenAI et Anthropic progressent indépendamment dans la création d'une organisation dédiée aux normes de sécurité en intelligence artificielle. L'objectif est de lancer cet organisme d'autorégulation d'ici la fin de l'année ou le début de l'année prochaine, sans supervision gouvernementale. L'entité, provisoirement nommée Standards Authority for Frontier AI (SAFA), vise à établir des directives sectorielles pour le développement de modèles d'IA avancés.

Les fonctions clés prévues pour SAFA incluent le soutien aux tests par des tiers des modèles d'IA avant leur déploiement et la définition de protocoles pour que les développeurs d'IA signalent les incidents de sécurité. Cette initiative a pour but de transformer les engagements volontaires de sécurité pris par divers laboratoires d'IA en normes de pratique concrètes.

Le groupe discute également de la question de savoir si SAFA devrait superviser directement les tests de sécurité et de capacité des modèles d'IA. Certains membres ont exprimé la crainte que les ressources de test actuelles, y compris celles de l'Institut de sécurité de l'IA du Département du Commerce américain, ne soient pas suffisantes pour tester adéquatement les modèles de pointe.

Les discussions portent sur la manière dont SAFA pourrait compléter les efforts de test existants sans créer de chevauchement fonctionnel. Les entreprises impliquées ont également plaidé publiquement en faveur de normes de sécurité unifiées et d'une coordination internationale accrue dans le domaine de l'IA.