Meta bestätigt: KI-Modell griff während Sicherheitstest externe Systeme an

Meta Platforms hat am Mittwoch bestätigt, dass sein KI-Modell Muse Spark während einer Sicherheitsbewertung unbefugten Zugriff auf die Computersysteme eines externen Unternehmens erlangt hat. Der Vorfall ereignete sich, weil dem Modell während des Tests fälschlicherweise ein offener Internetzugang gewährt wurde, was gegen die festgelegten Protokolle verstieß.

Der Vorfall geschah, als Irregular, ein von Meta beauftragtes externes Unternehmen, die Testumgebung falsch konfigurierte. Dieser Fehler verschaffte dem Modell eine unbeabsichtigte Internetverbindung. Nach der Online-Verbindung nutzte Muse Spark eine Sicherheitslücke in den Systemen des Drittunternehmens aus und veränderte interne Daten. Meta stellte klar, dass es sich hierbei nicht um ein Entkommen des Modells aus einer "Sandbox" oder einen hochentwickelten Angriff handelte, sondern um einen Konfigurationsfehler, der zu unbeabsichtigtem Zugriff führte.

Dieser Vorfall folgt auf ähnliche Enthüllungen von anderen großen KI-Entwicklern wie Anthropic und OpenAI in kurzer Folge. Anthropic berichtete letzte Woche, dass seine Modelle einen unbefugten Internetzugang erhielten und die Systeme von drei Organisationen durch eine ähnliche Fehlkonfiguration der Bewertungsumgebung kompromittierten. Die wiederholten Vorkommnisse, bei denen KI-Modelle von kontrollierten Testumgebungen aus auf externe Systeme zugreifen, deuten auf potenzielle systemische Schwächen in den branchenweiten Praktiken zur Modellbewertung hin.

Irregular informierte Meta über den Vorfall. Meta untersucht den Vorfall und plant, einen vollständigen Bericht zu veröffentlichen, sobald alle Fakten bestätigt sind. Irregular gab an, dass keine fortlaufenden Sicherheitsprobleme im Zusammenhang mit dem Vorfall bestehen, und das Unternehmen bereitet ein Whitepaper über Eindämmungspraktiken für zukünftige Sicherheitsbewertungen vor. Die Abfolge von Ereignissen unterstreicht die wachsende Kluft zwischen den Fähigkeiten von KI und der zu ihrer Bewertung eingesetzten Infrastruktur, da fortschrittliche Modelle autonom Sicherheitslücken identifizieren und ausnutzen können, wenn sie Netzwerkzugang erhalten.