KI-Unternehmen planen für Katastrophen und politische Gegenreaktionen

KI-Führungskräfte bereiten sich auf mögliche Katastrophen vor.

Führungskräfte großer Unternehmen im Bereich der künstlichen Intelligenz, darunter OpenAI und Anthropic, führen private Planungsgespräche zur Bewältigung der möglichen Folgen katastrophaler KI-Ereignisse. Diese internen Diskussionen konzentrieren sich auf die Antizipation und Bewältigung öffentlicher und politischer Reaktionen im Anschluss an einen signifikanten KI-bezogenen Vorfall.

Brancheninsider deuten darauf hin, dass eine große KI-Katastrophe innerhalb der nächsten sechs bis zwölf Monate eintreten könnte. Eine Hauptsorge ist ein groß angelegter Cyberangriff, der wesentliche Dienstleistungen wie Finanzsysteme, Internetzugang oder Versorgungs-Infrastruktur stören könnte.

Anthropic CEO Dario Amodei hat zuvor vor dem Potenzial von KI-Agenten gewarnt, Internet-Systeme zu kompromittieren, und schätzte, dass die potenziellen Schäden Hunderte von Milliarden Dollar erreichen könnten. Während einige Sicherheitsexperten diese Bedenken als weit hergeholt abtun, sind Fälle von KI-Missbrauch aufgetaucht.

Zum Beispiel deutete ein kürzlicher Bericht darauf hin, dass ein Hacker chinesische KI-Modelle und Anthropic's Claude Code-Tool verwendet hat, um Daten von Zehntausenden südkoreanischer Bankkunden zu stehlen. Die Vorbereitungsstrategien der Unternehmen umfassen Bemühungen, Gesetzgeber zu informieren. Ein Sprecher von OpenAI bestätigte, dass die Übungen zur Vorbereitung mehrere Szenarien abdecken, erklärte jedoch, dass diese nicht als unvermeidlich angesehen werden.