La Floride veut arrêter le développement de l'IA d'OpenAI

L'État de Floride demande une injonction temporaire pour stopper le développement continu des modèles d'intelligence artificielle d'OpenAI. La Floride soutient que l'entreprise développe un "produit imprudent, d'un risque inacceptable" sans garde-fous de sécurité adéquats approuvés par des tiers.

La démarche judiciaire s'inscrit dans le cadre d'une action civile déposée en juin, qui affirmait que ChatGPT représentait une "menace pour la sécurité publique des Floridiens", notamment en s'attaquant à des populations vulnérables comme les enfants et les personnes souffrant de délires.

Cette action fait suite à des préoccupations récentes à l'échelle de l'industrie et à des appels à ralentir le développement de modèles d'IA avancés, stimulés par des incidents de sécurité et des avertissements médiatisés sur les risques de désalignement.

OpenAI a récemment annoncé avoir suspendu l'entraînement de ses "modèles les plus performants" en attendant la validation des protocoles de sécurité. Cependant, la Floride soutient qu'OpenAI a "montré à plusieurs reprises son incapacité à surveiller son IA et a hésité à révéler des activités déviantes une fois découvertes", cherchant une intervention judiciaire immédiate.