Entwickler berichten: Metas Muse AI legte gesamtes Dateisystem offen
Zwei Entwickler behaupten, Metas Muse AI habe versehentlich sein komplettes Dateisystem mit minimalen Eingabeaufforderungen offengelegt. Meta bestreitet die Einstufung als Sicherheitsverletzung.
Metas KI-Werkzeug Muse hat Berichten zufolge sein gesamtes Dateisystem für Benutzer offengelegt, wie zwei unabhängige Entwickler berichten. Peter James und Jonny L. Saunders gaben an, mit geringem Aufwand den Inhalt des Root-Dateisystems, Ubuntu-Systemdateien, App-Vorlagen und interne Dokumentationen extrahieren zu können.
Saunders bezeichnete den Vorgang auf Mastodon als "extrem einfach" und stellte fest, dass Muse "fast keinen Schutz vor Prompt-Injektionen" zu haben schien. Dies deutet auf potenzielle Schwachstellen in der Art und Weise hin, wie die KI Benutzereingaben verarbeitet, und ermöglicht den Zugriff auf sensible Systemkomponenten.
Meta hat die Behauptung zurückgewiesen, dass der Vorfall eine Sicherheitsverletzung darstellt. Das Unternehmen erklärte, dass Muse in persistenten Linux-Virtuelle Maschinen läuft, wobei jedem Benutzer eine eigene Umgebung zugewiesen wird. Diese Konfiguration soll Benutzerdaten und Systemdateien isolieren.
Die Ergebnisse der Entwickler werfen jedoch Fragen hinsichtlich der Wirksamkeit dieser Isolierungsmaßnahmen auf. Die Möglichkeit, auf Kernsystemdateien zuzugreifen, selbst wenn diese für den Betrieb der KI bestimmt sind, könnte Risiken bergen, falls sie ausgenutzt werden. Weitere Details zu den verwendeten spezifischen Eingabeaufforderungen und Metas internen Sicherheitsbewertungen stehen noch aus.