AI-företag förbereder sig för katastrofer och motreaktioner
OpenAI och Anthropic förbereder sig för en potentiell offentlig och politisk motreaktion efter en AI-relaterad katastrof. Ledande personer inom branschen utvärderar de värsta tänkbara scenarierna och för dialog med lagstiftare.
Artificiell intelligens-företagen OpenAI och Anthropic rapporteras förbereda sig för en potentiell offentlig och politisk motreaktion till följd av en katastrofal AI-incident som kan störa kritisk infrastruktur, finansiella tjänster eller internetuppkopplingar. Enligt en rapport från Axios utvärderar företagsledare de värsta tänkbara scenarierna och förbereder sig för att engagera sig med amerikanska lagstiftare.
Flera personer med insyn i branschen menar att en allvarlig incident kan inträffa inom sex till tolv månader. OpenAI har kommenterat att deras beredskapsövningar täcker potentiella scenarier, inte händelser de anser vara oundvikliga. Anthropic har avböjt att kommentera.
Rapporten antyder att en sådan incident skulle kunna utlösa omfattande begränsningar och granskning av branschledare, inklusive Anthropic CEO Dario Amodei och OpenAI CEO Sam Altman. Det nämns också att USA:s dåvarande president Donald Trump skulle kunna möta kritik för att ha motsatt sig striktare AI-regleringar.
Förberedelserna sker samtidigt som AI-system blir alltmer kapabla att exekvera kod, utnyttja mjukvarusårbarheter och koordinera autonoma agenter, vilket väcker oro för om säkerhetsåtgärderna kan hålla jämna steg med utvecklingen.