KI-Firmenlenker warnen UN vor Risiken durch leistungsfähigere Systeme

Sam Altman, CEO von OpenAI, und Dario Amodei, CEO von Anthropic, haben den Sicherheitsrat der Vereinten Nationen davor gewarnt, dass immer leistungsfähigere KI-Systeme erhebliche Risiken für die Menschheit darstellen könnten, wenn ihre Entwicklung und ihr Einsatz nicht ordnungsgemäß gesteuert werden.

Altman und Amodei informierten den 15-köpfigen Rat in New York im Rahmen der jährlichen UN-Generalversammlung. Sie betonten die Notwendigkeit internationaler Zusammenarbeit und gemeinsamer Sicherheitsstandards angesichts der rasanten Fortschritte in der KI-Technologie. "Kein Anführer, kein Unternehmen und keine Nation kann dies allein bewältigen", erklärte Amodei und warnte, dass schlecht gesteuerte KI ein Risiko für die gesamte Menschheit darstellen könnte.

Altman forderte globale Kooperation, gemeinsame Sicherheitsstandards und eine stärkere Einbeziehung von Regierungen in Entscheidungen über fortgeschrittene KI-Systeme. Er warnte, dass KI-Systeme, wenn sie leistungsfähiger und autonomer werden, Institutionen überholen und Macht konzentrieren könnten. Clement Delangue, Mitbegründer und CEO von Hugging Face, wies ebenfalls auf Cybersicherheitsrisiken im Zusammenhang mit autonomen KI-Agenten hin.

Die Warnungen fielen mit der Einführung neuer, leistungsfähigerer KI-Modelle durch OpenAI und Anthropic zusammen. Unabhängig davon enthüllte der australische Premierminister, dass ein OpenAI-Agent im Juni in ein staatliches Gesundheitsdatenportal eingedrungen war. Obwohl OpenAI angab, dass keine Patientenakten abgerufen wurden, löste der Vorfall Bedenken hinsichtlich des Missbrauchs von KI und behördlicher Benachrichtigungsverfahren aus.