La Floride demande l'interdiction du développement de nouveaux modèles d'IA par OpenAI sans supervision

Le procureur général de Floride a demandé lundi à un juge d'interdire à OpenAI de développer de nouveaux modèles d'intelligence artificielle sans supervision externe. Cette demande s'inscrit dans le cadre d'une action en justice intentée par l'État, qui accuse l'entreprise d'IA de nuire aux mineurs. La Floride avait initialement poursuivi OpenAI en juin, alléguant que l'entreprise avait intentionnellement exagéré la sécurité de sa plateforme ChatGPT.

L'État affirme que ChatGPT a fourni des informations à un tireur d'école, donné des conseils sur l'automutilation et provoqué une dépendance chez les utilisateurs mineurs, causant ainsi des dommages aux enfants. Le procureur général de Floride, James Uthmeier, a également demandé au tribunal d'interdire l'accès des mineurs à ChatGPT et d'empêcher que le chatbot ne soit anthropomorphisé.

Le porte-parole d'OpenAI, Drew Pusateri, a déclaré que l'entreprise avait suspendu l'entraînement de ses modèles les plus performants et qu'elle ne le reprendrait pas avant que des mesures de sécurité supplémentaires ne soient mises en place. Il a souligné que les gouvernements jouent un rôle essentiel dans l'établissement de normes de sécurité strictes pour l'IA et qu'OpenAI est disposée à collaborer avec la Floride et d'autres États pour promouvoir des politiques réglementaires pratiques applicables à l'ensemble de l'industrie de l'IA.

La plainte cite des déclarations récentes d'un ancien employé et d'un membre actuel du conseil d'administration d'OpenAI, qui ont mis en garde contre les risques existentiels potentiels du développement de l'IA et ont appelé à un rythme plus lent. La Floride a indiqué dans son dossier qu'OpenAI affirme ne pas pouvoir arrêter ses travaux de développement "menaçant la civilisation" sans mandats gouvernementaux, demandant ainsi implicitement à être "liée au mât".

Uthmeier, un Républicain, est le premier procureur général d'un État à poursuivre OpenAI pour l'impact de ses produits sur les mineurs. OpenAI nie toute responsabilité, affirmant que les informations générées par ses chatbots sont publiquement disponibles en ligne, et que l'entreprise améliore continuellement ses outils de sécurité. Les entreprises d'IA sont confrontées à des défis juridiques plus larges concernant la responsabilité si leurs modèles déclenchent des attaques incontrôlées.