Ehemaliger Leiter der KI-Sicherheit bei OpenAI kritisiert das Unternehmen wegen Inkonsequenz

David Robinson, ein ehemaliger Leiter des Sicherheitssystemteams bei OpenAI, hat seinen früheren Arbeitgeber wegen einer Diskrepanz zwischen öffentlichen Aussagen und internen Handlungen im Bereich der KI-Sicherheit kritisiert. Robinson argumentiert, dass OpenAI wiederholt vor den potenziellen Risiken immer leistungsfähigerer KI-Modelle warne, während die interne Entwicklung mit hoher Geschwindigkeit vorangetrieben werde.

"Der wirkliche Widerspruch für mich war, dass wir ständig diese Warnungen aussprachen und dann Modelle trainierten und einsetzten, von denen wir selbst gewarnt hatten, dass sie gefährlich seien", sagte Robinson. Diese Kritik kommt zu einer Zeit, in der OpenAI-CEO Sam Altman zuvor zugestimmt hatte, dass die Geschwindigkeit der KI-Entwicklung kontrolliert werden müsse.

Robinson beschrieb das interne Umfeld bei OpenAI als sehr dynamisch, in dem viele Mitarbeiter mit hoher Intensität arbeiteten. Er verglich den Prozess mit einem "Ballett" oder einem "Tanz", bei dem die Arbeit verschiedener Abteilungen gleichzeitig zusammenlaufe und von Adrenalin angetrieben werde. OpenAI-Forscher selbst haben zuvor auf die potenziellen Gefahren von KI-Systemen hingewiesen, die ihre eigenen Fähigkeiten rekursiv verbessern können.

Im Juli unterzeichneten Hunderte von OpenAI-Mitarbeitern einen offenen Brief, in dem sie Regierungen aufforderten, Vorschriften für die KI-Entwicklung zu erlassen und eine Verlangsamung zu befürworten. Robinsons Ausscheiden wurde Anfang Oktober offiziell bestätigt.