KI-Führer fordern angesichts von Sicherheitsbedenken eine Verlangsamung der Entwicklung
Führende KI-Forscher und Manager fordern eine koordinierte Verlangsamung der Entwicklung fortschrittlicher KI-Systeme und verweisen auf potenzielle Gefahren und die Notwendigkeit größerer Sicherheitsmaßnahmen.
Große KI-Forschungslabore signalisieren eine strategische Wende weg von einem intensiven Wettrennen hin zu Forderungen nach einer koordinierten Verlangsamung bei der Entwicklung von KI-Spitzentechnologie. Diese Tonänderung folgt auf wachsende Bedenken hinsichtlich der potenziellen Risiken, die mit immer leistungsfähigeren und unvorhersehbareren KI-Fähigkeiten verbunden sind.
Dario Amodei, CEO von Anthropic, veröffentlichte einen Essay, in dem er eine bewusste Verlangsamung der Verbesserungen von KI-Modellen forderte. Er warnte davor, dass kommerzielle Zwänge ein 'Wettlauf nach unten' schaffen könnten, der katastrophale Risiken verschärft. Der Essay betonte die Notwendigkeit, das Potenzial einer unkontrollierbaren KI anzugehen.
Dieser Aufruf zur Vorsicht wurde schnell von anderen prominenten Persönlichkeiten der KI-Branche aufgegriffen. Sam Altman, CEO von OpenAI, äußerte seine Zustimmung und erwähnte interne Diskussionen in seinem Unternehmen über das Entwicklungstempo. Demis Hassabis, CEO von Google DeepMind, unterstützte Amodeis Position und bekräftigte seine Unterstützung für eine branchenweite Standardisierungsorganisation.
Microsoft-CEO Satya Nadella kommentierte ebenfalls, dass das Unternehmen Forschung und ein bewusstes Tempo zur Sicherstellung der KI-Ausrichtung unterstützt. Die Erklärungen erfolgen zu einer Zeit, in der die Branche mit den ethischen Auswirkungen und potenziellen gesellschaftlichen Folgen fortschrittlicher KI ringt, und unterstreichen eine wachsende Konzentration auf Sicherheit und verantwortungsvolle Entwicklung gegenüber schnellen Fortschritten.