OpenAI: Sicherheitsforscher bestreiten Fehlverhalten und warnen vor "abschreckender Wirkung"
Drei von OpenAI entlassene Forscher bestreiten die Vorwürfe der unsachgemäßen Handhabung sensibler Informationen und warnen, dass ihre Entlassungen eine abschreckende Wirkung auf die KI-Sicherheitskultur des Unternehmens haben.
Drei kürzlich von OpenAI entlassene Sicherheitsexperten haben einen offenen Brief veröffentlicht, in dem sie die Behauptungen des Unternehmens bezüglich unsachgemäßer Handhabung sensibler Informationen zurückweisen. Die Forscher geben an, ohne ordnungsgemäßes Verfahren entlassen worden zu sein, und ihre Entlassungen sendeten ein negatives Signal an die interne Sicherheitskultur des Unternehmens.
In dem Schreiben äußern die Forscher die Besorgnis, dass ihr Fall eine abschreckende Wirkung (chilling effect) erzeugt und andere Mitarbeiter davon abhalten könnte, Sicherheitsbedenken zu äußern oder die Entwicklungsrichtungen des Unternehmens zu kritisieren. Sie betonen, dass ihre Arbeit entscheidend für den Schutz einer Organisation war, die "Superintelligenz" (AGI) sicher entwickelt.
Die Führung von OpenAI erklärte zuvor, die Forscher hätten nicht offen und kooperativ gehandelt. Die Forscher behaupten jedoch, dass ihr Vorgehen im Einklang mit ihren Aufgaben stand und ihre Bemühungen zur Förderung der Sicherheit fortlaufend waren.
Diese Situation wirft Fragen über den internen Informationsfluss von OpenAI und den Umgang des Unternehmens mit kritischem Feedback bei der Entwicklung potenziell weltverändernder Technologien auf. Laut den Forschern könnte ihre Entlassung den Fortschritt bei der sicheren KI-Entwicklung behindern.