Ehemalige OpenAI-Forscher weisen Leck-Vorwürfe zurück und kritisieren Firmenkultur
Drei OpenAI-Sicherheitsforscher wurden wegen angeblicher Datenlecks entlassen, sehen darin jedoch eine Reaktion auf ihr Drängen auf mehr Transparenz bei der KI-Entwicklung.
Tomek Korbak, Mikita Balesni und Jasmine Wang wurden von OpenAI nach einer internen Untersuchung entlassen, die den Forschern den unsachgemäßen Umgang mit sensiblen Informationen vorwirft. Die Betroffenen bestreiten dies und kritisieren, dass das Unternehmen keine schriftliche Begründung für die angeblichen Verstöße geliefert habe. Sie vermuten, dass ihr Einsatz für mehr Transparenz bei KI-Entscheidungsprozessen der eigentliche Grund für die Kündigungen war.
Der Kern des Konflikts liegt in der Frage, inwieweit externe Experten Einblick in die internen Denkprozesse von KI-Modellen erhalten sollten. Während die Forscher auf der Notwendigkeit von überprüfbaren Log-Daten bestehen, zeichnet sich bei der Entwicklung neuer KI-Systeme ein Trend zu weniger detaillierten Zwischenschritten ab. OpenAI betont, dass die Entlassungen in keinem Zusammenhang mit den sicherheitstechnischen Bedenken der Mitarbeiter stünden.
Der Vorfall wirft ein Schlaglicht auf das angespannte Verhältnis zwischen KI-Unternehmen und Sicherheitsprüfern. Die Forscher warnen, dass eine solche Unternehmenskultur Angestellte davon abhalte, Sicherheitsrisiken offen anzusprechen. OpenAI erklärte derweil, man habe infrastrukturelle Sicherheitslücken geschlossen und arbeite an neuen Modellen der externen Zusammenarbeit.