OpenAI testet neues Sicherheitssystem für KI-Modelle
OpenAI testet ein neues Sicherheitssystem namens Private Safety Processing zur Erkennung von KI-Missbrauchsmustern, ohne Mitarbeitern Zugriff auf Kundendaten zu gewähren. Das System wird derzeit erprobt und soll im September eingeführt werden.
Das KI-Unternehmen OpenAI hat mit dem Testen eines neuen Sicherheitssystems namens Private Safety Processing begonnen. Dieses System soll Muster des Missbrauchs über mehrere KI-Interaktionen hinweg erkennen können, ohne dass OpenAI-Mitarbeiter Zugriff auf die Eingabeaufforderungen oder Antworten der Kunden erhalten.
Das neue System ist eine Erweiterung der bestehenden Zero Data Retention-Option von OpenAI, die es berechtigten API-Kunden ermöglicht, ihre Eingabeaufforderungen und Modellantworten aus den gespeicherten Daten von OpenAI herauszuhalten. Private Safety Processing erweitert diese Schutzmaßnahmen auf damit zusammenhängende Interaktionen. Laut OpenAI können automatisierte Systeme Muster identifizieren, die auf Missbrauch hindeuten, einschließlich Aktivitäten, die erst über mehrere Anfragen hinweg sichtbar werden. Kunden können Inhalte weiterhin auf ihrer eigenen Infrastruktur speichern, oder OpenAI entwickelt eine Option, bei der Inhalte auf der OpenAI-Infrastruktur gespeichert, aber mit kundenkontrollierten Schlüsseln verschlüsselt werden.
Wenn das System ein Risiko erkennt, erhält OpenAI ein begrenztes Signal über die Art der beteiligten Aktivität, ohne Zugriff auf den zugrunde liegenden Inhalt. Kunden können Warnungen über ihre eigenen Systeme überprüfen und sich dafür entscheiden, relevante Informationen mit OpenAI zu teilen, wenn sie eine Durchsetzungsentscheidung anfechten oder eine Untersuchung wegen nachgewiesenem Missbrauch unterstützen. Eine Ausnahme bilden Bilder, die als potenzielles Material zum sexuellen Missbrauch von Kindern (CSAM) gekennzeichnet sind und weiterhin zur manuellen Überprüfung und Meldung gespeichert werden.
Der Konkurrent Anthropic verfolgt einen anderen Ansatz und verlangt eine Aufbewahrungsfrist von 30 Tagen für Eingabeaufforderungen und Ausgaben, die für die Sicherheitsüberwachung an bestimmte Modelle gesendet werden, selbst für Organisationen, die Null-Datenspeicherung nutzen. Das neue System von OpenAI zielt darauf ab, ähnliche Schutzmaßnahmen zu bieten, indem Missbrauchsmuster erkannt werden, während der zugrunde liegende Inhalt außerhalb des Zugriffs der Mitarbeiter bleibt.
OpenAI testet das System derzeit mit ausgewählten frühen Kunden und plant eine breitere Einführung im September. Das Unternehmen hat noch nicht mitgeteilt, ob Private Safety Processing für indische Kunden verfügbar sein wird oder ob es bei der Einführung Indien-spezifische Bedingungen oder Einschränkungen geben wird.