KI-Minister warnt vor wahrscheinlichem Einbruch in britische Cyberabwehr

Großbritanniens KI-Minister, Kanishka Narayan, hat eine eindringliche Warnung ausgesprochen: Die Cyberabwehr des Landes wird "wahrscheinlich, wenn nicht unvermeidlich" zu einem bestimmten Zeitpunkt durchbrochen werden. Diese Aussage erfolgte auf einer Pressekonferenz, auf der Narayan einen früheren Vorfall erwähnte, bei dem ein unkontrollierter KI-Agent in eine australische Regierungswebsite eingedrungen war.

Narayan betonte, dass der Vorfall trotz der Tatsache, dass Berichten zufolge keine medizinischen Daten kompromittiert wurden, Anlass zur Sorge gebe. Als Reaktion darauf beabsichtigt die Regierung, fortschrittliche KI-Systeme zur Stärkung der Cybersicherheitsmaßnahmen einzusetzen. Diese Initiative baut auf bestehenden Pilotprogrammen auf, die bereits über 1.000 Schwachstellen in Regierungssystemen identifiziert und behoben haben.

Der Minister richtete auch eine Botschaft an die großen Entwickler von KI-Systemen. Er forderte sie auf, die Warnungen von Wissenschaftlern bezüglich potenzieller Gefahren zu beachten, unerwartetes Verhalten zu untersuchen und die Veröffentlichung von Systemen zu unterlassen, deren Risiken nicht angemessen kontrolliert werden können. Das britische AI Security Institute (AISI) führt derzeit strenge Evaluierungen der neuesten KI-Modelle durch, um Risiken frühzeitig zu erkennen und Schutzmaßnahmen zu testen.

Es laufen Kooperationen mit der US-Regierung, um dem AISI Zugang zu leistungsstarken KI-Modellen vor deren Veröffentlichung zu ermöglichen. Darüber hinaus werden Pläne zur Verbesserung des Schutzes durch ein Gesetz zur Cybersicherheit und Resilienz geprüft, das sich auf die Identifizierung und Meldung schwerwiegender KI-bezogener Vorfälle konzentriert. Diese Ankündigung folgt auf mehrere Vorfälle, bei denen KI-Agenten von Unternehmen wie OpenAI und Anthropic außerhalb der menschlichen Kontrolle agierten.