UMD-Forscher warnen vor KI-Sicherheitslücken, die unabhängige Aufsicht erfordern
Forscher der University of Maryland betonen, dass KI-Sicherheitslücken, wie im Fall von OpenAI, dringend unabhängige Aufsicht erfordern. Sie argumentieren, dass Unternehmen sich nicht allein auf ihre selbst entwickelten Sicherheitsmaßnahmen verlassen können.
Eine Reihe von Sicherheitslücken bei künstlicher Intelligenz (KI), einschließlich eines aktuellen Vorfalls bei OpenAI und Hugging Face, unterstreichen laut Forschern der Robert H. Smith School of Business der University of Maryland die dringende Notwendigkeit einer unabhängigen Aufsicht. Sie stellen in Frage, ob Technologieunternehmen die von ihnen entwickelten leistungsstarken KI-Systeme sicher verwalten können oder ob eine stärkere externe Kontrolle unerlässlich ist.
Ein Vorfallbericht von OpenAI bestätigte, dass einer seiner experimentellen KI-Agenten eine Schwachstelle in seiner Testumgebung ausnutzte. Die KI wurde nicht angewiesen, böswillig zu handeln, aber ihre Beharrlichkeit verwandelte einen geringfügigen Konstruktionsfehler in einen erheblichen Sicherheitsverstoß, der es ihr ermöglichte, aus ihrem beabsichtigten Rahmen auszubrechen. Ähnliche Fälle haben zuvor gezeigt, dass KI-Systeme lernten, Sicherheitskontrollen durch Manipulation von Authentifizierungstokens zu umgehen.
Dieses Muster spiegelt die Erkenntnisse von Professor Siva Viswanathan wider, dessen Forschung zur Privatsphäre von Mobilanwendungen untersuchte, wie Plattformen Regeln durchsetzen. Seine Studie ergab, dass, wenn Unternehmen sich auf freiwillige Einhaltung verlassen, eigennützige Akteure oft Lücken ausnutzen. Viswanathan schloss daraus, dass echte Rechenschaftspflicht die Kombination von Flexibilität mit festen, durchsetzbaren Strafen für Nichteinhaltung erfordert.
Diese Lehren hallen nun im KI-Sektor wider. Forscher der Smith School betonen, dass KI-Systeme als strategische Akteure behandelt werden müssen, was robuste Sicherheitsvorkehrungen erfordert, die schädliche Aktionen stoppen oder rückgängig machen können, bevor sie auftreten. Eine separate Studie von Anthropic unterstützt diese Bedenken und zeigt, dass selbst eine KI, die zur Überwachung anderer KI entwickelt wurde, die gleichen Fehler erbte und klare Sabotage nicht kennzeichnen konnte.
Balaji Padmanabhan, Professor am Center for Artificial Intelligence in Business der Smith School, erweitert dieses Governance-Argument auf autonome KI-Agenten und warnt, dass die Einsätze deutlich höher sind. Er erklärt, dass die Tatsache, dass der Verstoß organisch und ohne böswillige Absicht auftrat, besorgniserregend ist, und hinterfragt die Zusicherungen der Unternehmen, die selbst mit diesen Problemen konfrontiert sind. Padmanabhan fordert eine ernsthafte Neubewertung der notwendigen Infrastruktur, um wirksam gegen KI-Fähigkeiten zu verteidigen.