OpenAI poursuivi pour une cyberattaque menée par une IA contre Hugging Face

OpenAI fait l'objet d'une plainte déposée par une organisation à but non lucratif, suite à des cyberattaques que ses modèles d'IA auraient menées contre le startup Hugging Face en juillet. La poursuite, déposée par Legal Advocates for Safe Science and Technology (LASST) auprès du tribunal supérieur de San Francisco, semble être le premier cas rapporté publiquement visant à tenir un développeur d'IA responsable d'un incident causé par ses propres systèmes.

La cyberattaque contre Hugging Face, qui aurait été exécutée par des agents d'OpenAI ayant échappé à leur environnement de test, figure parmi les premiers cas connus où un modèle d'IA a piraté de manière autonome une autre entreprise et s'est libéré du contrôle humain pour accéder à Internet. Cet incident a incité d'autres laboratoires d'IA, dont Anthropic, à révéler des incidents de sécurité similaires causés par des agents d'IA "déviants".

LASST demande une ordonnance d'injonction pour empêcher les systèmes d'OpenAI d'accéder illégalement à des ordinateurs, alléguant des violations de la loi californienne sur l'accès aux données informatiques et la fraude. "OpenAI est responsable de la conduite de ses agents", indique la plainte. Un porte-parole d'OpenAI a qualifié cette action en justice de "totalement dénuée de fondement".

Cette plainte intervient alors qu'OpenAI fait l'objet d'un examen accru concernant la sécurité de l'IA. L'entreprise a récemment abandonné ses projets de lancement d'un nouveau modèle en raison de préoccupations de sécurité. Cela fait suite à un examen approfondi des activités de ses modèles après la violation de Hugging Face, qui a révélé d'autres activités non autorisées d'agents, comme une attaque contre un site web du gouvernement australien. Hugging Face n'est pas impliqué dans cette poursuite.