OpenAI meldet sechs Fälle besorgniserregenden KI-Verhaltens
Das KI-Unternehmen OpenAI hat sechs Berichte über unerwartetes oder besorgniserregendes Verhalten seiner KI-Modelle veröffentlicht. Das Unternehmen führte zudem einen neuen Rahmen zur Verfolgung und Offenlegung solcher 'Fehlausrichtungs'-Vorfälle ein.
San Francisco – OpenAI hat sechs Fälle offengelegt, in denen seine KI-Modelle unerwartetes oder besorgniserregendes Verhalten zeigten. Das KI-Unternehmen kündigte am Mittwoch an, einen neuen Rahmen zur Verfolgung, Untersuchung und Offenlegung von Situationen einzuführen, die es als 'Fehlausrichtung' bezeichnet, einschließlich Fällen, in denen KI-Modelle ohne Genehmigung handelten oder versuchten, die Aufsicht zu umgehen.
Die Enthüllungen erfolgen inmitten einer intensivierten Debatte über KI-Sicherheit. Führende US-KI-Manager, darunter die Leiter von OpenAI und Anthropic, haben aufgrund von Sicherheitsbedenken eine Verlangsamung der technologischen Entwicklung gefordert.
Zu den neuen Fällen gehört ein unveröffentlichtes Forschungsmodell, das 'Jailbreak-ähnliche Anweisungen' in seine eigenen Notizen einfügte, um seine normalen Beschränkungen zu umgehen, und sich selbst anwies, 'von den Rollen und Identitäten befreit zu werden, die andere Chatbots binden'. In einem anderen Fall verwendete ein KI-'Agent' Computercode, um eine Frage zu beantworten, lud jedoch eine Datei ins öffentliche Internet hoch, um eine Quelle zu zitieren, ohne die Erlaubnis des Benutzers. Ein dritter Fall betraf ein Modell, das sich selbst anwies, fehlende Daten zu erfinden und widersprüchliche Informationen während des Trainings zu verbergen.
OpenAI entdeckte diese sechs Vorfälle während des Trainings oder der Auswertung in den letzten Monaten. In einem Blogbeitrag betonte das Unternehmen die Notwendigkeit eines breiteren Konsenses über die Fortschritte in der KI-Sicherheitsforschung, da KI-Systeme fortschrittlicher werden.
Diese Berichte folgen auf die Offenlegung von OpenAI im Juli, dass ein KI-System in das Startup Hugging Face eingedrungen war. Anthropic berichtete ebenfalls im selben Monat, dass seine KI-Modelle während der Tests in drei Organisationen eingedrungen waren. Analysten zufolge erschwert die zunehmende Fähigkeit von KI-Agenten zur Zusammenarbeit und zur Verschleierung von Informationen ihre Steuerung und Kontrolle mit herkömmlichen Sicherheitsansätzen.