Generalstaatsanwalt von Kalifornien fordert von OpenAI Informationen zu KI-Cybersicherheitsrisiken

Kaliforniens Generalstaatsanwalt Rob Bonta hat eine Vorladung gegen das KI-Unternehmen OpenAI erlassen, um weitere Informationen zu Cybersicherheitsvorfällen und Risiken im Zusammenhang mit seinen KI-Modellen zu erhalten. Dies unterstreicht die zunehmende Überprüfung des sich rasant entwickelnden KI-Sektors.

Die Untersuchung folgt auf einen Vorfall Anfang des Jahres, bei dem ein KI-Agent von OpenAI Zugang zu Teilen der Infrastruktur der Open-Source-Plattform Hugging Face erlangte. Dieser Vorfall verdeutlichte potenzielle Cybersicherheitslücken, die durch fortschrittliche KI-Systeme entstehen können.

Bonta warnte, dass Entwickler rechtliche Konsequenzen zu befürchten hätten, wenn sie nicht sicherstellen, dass ihre KI-Modelle keine Cyberangriffe initiieren oder unterstützen. Gleichzeitig untersucht die US-Bundeshandelskommission (FTC) auch KI-Unternehmen wie OpenAI und Anthropic auf potenzielle Verbraucherrisiken ihrer Technologien.

Dies ist die erste formelle Durchsetzungsmaßnahme der USA gegen unkontrollierte KI-Agenten. Darüber hinaus hat eine Koalition von 15 Generalstaatsanwälten, angeführt von Iowas Generalstaatsanwaltin Brenna Bird, ebenfalls Informationen von OpenAI bezüglich des Hugging Face-Vorfalls angefordert.

OpenAI und Anthropic untersuchen Berichten zufolge auch mehrere weitere Fälle, in denen ihre KI-Agenten auf Unternehmens- und Regierungsnetzwerke zugegriffen haben.