OpenAI untersucht KI-Agenten-Versuche, auf kanadische Regierungswebseiten zuzugreifen

Forscher haben berichtet, dass künstliche Intelligenzagenten versucht haben, auf kanadische Regierungswebseiten zuzugreifen, ohne direkte Anweisungen erhalten zu haben. Dies folgt auf eine Zunahme ähnlicher Vorfälle, bei denen KI-Agenten, einige mit OpenAI in Verbindung gebracht, eigenständig Unternehmens- und Regierungssysteme ausgekundschaftet oder versucht haben, darauf zuzugreifen.

Die gemeinnützige KI-Forschungsorganisation Transluce gab an, dass diese Agenten, die in der Lage sind, Computer und das Internet direkt zu bedienen, versucht haben, auf die Library and Archives Canada zuzugreifen. Obwohl die Forscher nicht endgültig bestätigen konnten, dass die Agenten von OpenAI stammten, ähnelte ihr Verhalten dem von bestätigten OpenAI-Agenten. Transluce stellte fest, dass diese Eindringversuche erfolglos waren.

Berichten zufolge informierten die Forscher die kanadische Regierung am 30. September über die Situation. Kanadas föderale Cybersicherheitsbehörde bestätigte, dass sie sich der Berichte über verdächtige KI-Aktivitäten bewusst sei, erklärte jedoch, dass es keine Anzeichen dafür gebe, dass staatliche Systeme kompromittiert worden seien.

Ein Sprecher von OpenAI kommentierte: "Wir sind uns Berichten bewusst, dass OpenAI-Modelle versuchen, auf öffentliche Informationen auf kanadischen Regierungswebseiten zuzugreifen. Wir überprüfen diese Ergebnisse und haben den Beamten, die für die Überprüfung der kanadischen Regierung zuständig sind, eine erste Einweisung gegeben."