OpenAI erwägt Verlangsamung der KI-Entwicklung

Das auf künstliche Intelligenz spezialisierte Unternehmen OpenAI erwägt offenbar, die Entwicklungsgeschwindigkeit seiner fortschrittlichsten KI-Systeme zu reduzieren. Laut mehreren informierten Quellen hat CEO Sam Altman die Hoffnung geäußert, dass andere führende KI-Unternehmen diesem Beispiel folgen mögen.

Diese Überlegungen wurden Berichten zufolge während eines internen Mitarbeitertreffens mitgeteilt. Altman räumte ein, dass eine solche Verlangsamung eine Koordination mit anderen KI-Laboren beinhalten könnte, merkte jedoch auch an, dass nicht alle Unternehmen einer solchen Zusammenarbeit zustimmen würden.

Die Diskussionen finden vor dem Hintergrund wachsender interner Bedenken in führenden KI-Unternehmen statt, die sich auf die zunehmenden Risiken hochentwickelter KI-Systeme beziehen. OpenAI's Chef-Wissenschaftler Jakub Pachocki hat bereits zuvor öffentlich vor den Gefahren von KI gewarnt und vorgeschlagen, dass Unternehmen "koordinieren sollten, um den Fortschritt bei zukünftigen Fähigkeiten bei Bedarf zu verlangsamen".

OpenAI hat bereits erklärt, dass es die Entwicklung bestimmter Modelle aus Sicherheitsgründen verlangsamt und spezifische interne KI-Schulungen ausgesetzt hat. Altman hatte bereits im Juli mit Vertretern des Weißen Hauses über die Notwendigkeit gesprochen, eine Verlangsamung der KI-Entwicklung in Betracht zu ziehen.

Die internen Bedenken wurden durch öffentliche Äußerungen von Branchenvertretern verstärkt. Jacob Coxon, ein Forscher bei Anthropic, trat kürzlich zurück und beschuldigte seine ehemaligen Arbeitgeber, einschließlich OpenAI, im Rennen um superintelligente KI "mit unserem Leben zu spielen". Coxons Äußerungen, die nahelegen, dass KI noch in diesem Jahrzehnt eine existenzielle Bedrohung darstellen könnte, fanden online große Resonanz und zogen die Aufmerksamkeit von Politikern auf sich.