Le gouverneur de Californie propose un "bouton d'arrêt" pour l'IA

Le gouverneur de Californie, Gavin Newsom (D), positionne l'État pour diriger la surveillance de l'IA. Un nouveau décret charge l'État d'explorer la possibilité d'imposer un "bouton d'arrêt" pour les modèles d'IA de pointe.

Le décret demande la convocation d'un groupe d'experts qui présentera des recommandations sous deux mois sur le renforcement des mesures de sécurité de l'IA dans la loi de l'État. L'objectif est d'assurer le développement et le déploiement sûrs de l'intelligence artificielle.

Le gouverneur Newsom souhaite que le groupe examine l'obligation pour les entreprises d'IA d'intégrer des équipes de vérification indépendantes pour des audits réguliers sur site. De plus, le groupe évaluera si les rapports de transparence et les évaluations des risques doivent être soumis aux normes des auditeurs indépendants.

Le décret aborde également le concept d'un "bouton d'arrêt", destiné à servir de mécanisme de contrôle pour interrompre rapidement les opérations potentiellement nuisibles des systèmes d'IA très avancés.