KI-Unternehmen bereiten sich auf Katastrophen und Gegenreaktionen vor
OpenAI und Anthropic bereiten sich Berichten zufolge auf eine mögliche KI-Katastrophe und die darauffolgende öffentliche und politische Gegenreaktion vor. Branchenführer prüfen die schlimmsten Szenarien und treten in Dialog mit Gesetzgebern.
Die KI-Unternehmen OpenAI und Anthropic bereiten sich Berichten zufolge auf mögliche öffentliche und politische Gegenreaktionen vor, falls ein katastrophaler KI-Zwischenfall kritische Infrastrukturen, Finanzdienstleistungen oder Internetverbindungen stört. Laut einem Bericht von Axios prüfen Führungskräfte die schlimmsten denkbaren Szenarien und bereiten sich auf Gespräche mit US-Gesetzgebern vor.
Mehrere Brancheninsider, die in dem Bericht zitiert werden, gehen davon aus, dass ein schwerwiegender Vorfall innerhalb der nächsten sechs bis zwölf Monate eintreten könnte. OpenAI hat mitgeteilt, dass seine Vorbereitungsübungen potenzielle Szenarien abdecken, aber keine Ereignisse, die als unvermeidlich angesehen werden. Anthropic lehnte eine Stellungnahme ab.
Der Bericht legt nahe, dass ein solcher Zwischenfall zu weitreichenden Beschränkungen und einer verstärkten Überprüfung von Branchenführern wie Anthropic-CEO Dario Amodei und OpenAI-CEO Sam Altman führen könnte. Laut dem Bericht könnte auch der frühere US-Präsident Donald Trump Kritik erfahren, weil er strengere KI-Regulierungen ablehnte.
Diese Vorbereitungen erfolgen zu einer Zeit, in der KI-Systeme zunehmend in der Lage sind, Code auszuführen, Schwachstellen in Software auszunutzen und autonome Agenten zu koordinieren, was Bedenken hinsichtlich der Fähigkeit von Sicherheitsmaßnahmen aufkommen lässt, mit der rasanten Entwicklung Schritt zu halten.