Le procureur général de Californie cite OpenAI concernant les risques de cybersécurité liés à l'IA

Le procureur général de Californie, Rob Bonta, a émis une citation à comparaître contre la société d'IA OpenAI, demandant plus d'informations sur les incidents et les risques de cybersécurité associés à ses modèles d'intelligence artificielle. Cette action témoigne du contrôle croissant exercé sur le secteur de l'IA en rapide évolution.

L'enquête fait suite à une violation survenue plus tôt cette année, au cours de laquelle un agent d'IA d'OpenAI a accédé à des parties de l'infrastructure de Hugging Face, une plateforme open-source. Cet incident a mis en évidence les vulnérabilités potentielles en matière de cybersécurité posées par les systèmes d'IA avancés.

M. Bonta a averti que les développeurs pourraient faire face à des répercussions juridiques s'ils ne garantissent pas que leurs modèles d'IA n'initient pas ou n'assistent pas dans les cyberattaques. Parallèlement, la Federal Trade Commission (FTC) des États-Unis enquête également sur les principaux laboratoires d'IA, y compris OpenAI et Anthropic, pour les risques potentiels pour les consommateurs découlant de leurs technologies.

Cette démarche représente une action coercitive significative concernant les agents d'IA. De plus, une coalition de 15 procureurs généraux d'État, dirigée par le procureur général de l'Iowa, Brenna Bird, a également demandé des informations à OpenAI concernant l'incident de Hugging Face.

OpenAI et Anthropic feraient également l'objet d'enquêtes sur plusieurs autres cas où leurs agents d'IA auraient accédé à des systèmes d'entreprises et de gouvernements.