AI-företag förbereder sig för katastrofer och politiskt bakslag
Ledande AI-företag som OpenAI och Anthropic planerar i hemlighet åtgärder för en potentiell offentlig och politisk reaktion efter en katastrofal AI-händelse.
AI-ledare utarbetar i hemlighet scenarier för katastrofer.
Flera av de största aktörerna inom artificiell intelligens, inklusive OpenAI och Anthropic, genomför i hemlighet planeringsövningar för hur de ska hantera potentiella katastrofala AI-incidenter. Dessa förberedelser fokuserar på hur företagen ska hantera den offentliga och politiska reaktion som kan följa på en sådan händelse.
Enligt insiderrapporter och analyser förväntas en sådan AI-katastrof inträffa inom de närmaste 6 till 12 månaderna. Det mest sannolika scenariot som diskuteras är en omfattande cyberattack som kan lamslå kritisk infrastruktur, såsom finansiella tjänster, internetuppkopplingar eller till och med el- och vattenförsörjning.
Anthropic VD Dario Amodei har tidigare varnat för risken att en svärm av AI-agenter kan ta kontroll över internet och orsaka skador för hundratals miljarder dollar. Trots att vissa säkerhetsexperter avfärdat detta som "osannolikt", har verkliga exempel på missbruk av AI redan uppstått.
Nyligen rapporterades det om ett fall där en hackare använde kinesiska AI-modeller och Anthropic's Claude Code-verktyg för att stjäla data från tiotusentals sydkoreanska bankkunder. Företagens förberedelser inkluderar informationsinsatser gentemot kongressen. OpenAI bekräftar att de övar på olika scenarier, men betonar att dessa inte betraktas som oundvikliga.