Anthropic propose une loi pour réguler les risques de l'IA de pointe

La société d'intelligence artificielle Anthropic a proposé un projet de loi aux législateurs américains, destiné à réglementer la sécurité et à gérer les risques associés aux modèles d'IA de pointe.

Selon le projet, le Département du Commerce pourrait demander une ordonnance du tribunal pour suspendre un modèle s'il présente un risque prévisible et imminent de causer plus d'un milliard de dollars de dommages, ou de tuer ou de blesser gravement plus de 50 personnes. Ces risques découleraient de domaines tels que la création ou la libération d'armes biologiques, un modèle échappant aux contrôles de son développeur, ou une cyberattaque.

Le projet de loi obligerait également des évaluateurs indépendants enregistrés auprès du Département du Commerce. Ces évaluateurs examineraient périodiquement les laboratoires d'IA et les modèles de pointe et seraient tenus de signaler les risques imminents dans les 72 heures suivant la fin d'une évaluation.

La proposition intervient dans le contexte des discussions politiques en cours aux États-Unis sur la réglementation de l'IA. Le FRONTIER Act a déjà été introduit au Congrès. Le Département du Commerce supervise les contrôles à l'exportation des États-Unis et les a étendus pour couvrir les modèles d'IA avancés.