Ehemaliger OpenAI-Mitarbeiter: Aggressive KI-Modell-Bereitstellung birgt Risiken

Ein ehemaliger Mitarbeiter der Sicherheitsabteilung von OpenAI hat Bedenken hinsichtlich des Umgangs des Unternehmens mit der Sicherheit künstlicher Intelligenz geäußert. David Robinson, der kürzlich zurückgetreten ist, erklärte, dass die intensive Unternehmenskultur, die sich auf schnelle Entwicklung konzentriert, Risiken für Systemausfälle birgt. Er glaubt, dass Unternehmen, einschließlich OpenAI, nicht mit ausreichender Vorsicht vorgehen.

Robinson argumentierte in einem Artikel, der in "The Atlantic" veröffentlicht wurde, dass mehr Wert auf Sicherheitsexperten und Forschung gelegt werden sollte, bevor weiterentwickelte Systeme entwickelt werden. Er erklärte: "Die Ära von Versuch und Irrtum ist vorbei" und verglich die Sicherheitsanforderungen für fortgeschrittene KI mit denen in Branchen wie der Kernkraft und der Luftfahrt. Er beschrieb die Methode von OpenAI als "iterative Bereitstellung", bei der Systeme veröffentlicht und dann nach Auftreten von Problemen gesichert werden.

Während seiner dreieinhalb Jahre bei OpenAI half Robinson bei der Ausarbeitung des Risikominderungsrahmens des Unternehmens und überwachte Sicherheitsberichte für 12 Veröffentlichungen von Spitzenmodellen. Er äußerte, dass das Unternehmen die Geschwindigkeit bei der Veröffentlichung neuer Versionen priorisierte, ohne die von ihm als angemessen erachteten Vorsichtsstandards zu erfüllen. Diese Aussagen befeuern die anhaltende Debatte im KI-Sektor darüber, ob sich die Entwicklung zu schnell vollzieht.

OpenAI und Konkurrenten wie Anthropic standen aufgrund früherer Sicherheitsmängel und ungewöhnlichen Verhaltens experimenteller Systeme unter Beobachtung. Ein Sprecher von OpenAI antwortete, dass das Unternehmen die Fähigkeiten der Modelle überwacht, um sicherzustellen, dass sie innerhalb beherrschbarer Grenzen bleiben, und das Training oder die Bereitstellung bei Bedarf pausiert. Robinson warnte auch davor, dass die Entwicklung der KI-Fähigkeiten das Verständnis der Forscher für das "Alignments-Problem" übertroffen hat, das darauf abzielt, sicherzustellen, dass KI-Systeme im Einklang mit menschlichen Zielen und Werten handeln.