Anthropic-anställda överväger beredskap för AI-kontrollförlust
Ledande anställda på Anthropic planerar nödåtgärder, inklusive beredskap för förlust av AI-kontroll. Vissa anställda överväger att flytta till avlägsna platser.
Flera erfarna anställda på AI-företaget Anthropic överväger beredskapsplaner för det hypotetiska scenariot att AI-system blir okontrollerbara. Enligt rapporter från Wall Street Journal har tidiga medarbetare diskuterat planer på att skaffa mark i avlägsna områden som en potentiell tillflyktsort om AI-system skulle gå överstyr.
Idén om att "fly från AI" är inte ny inom företaget. Tidigare anställda har berättat om diskussioner sedan företagets tidiga dagar, där man spekulerat i scenarier där man skulle behöva fortsätta AI-utvecklingen från isolerade, hemliga militärbaser.
Inom företagets interna kommunikationskanaler har anställda diskuterat olika katastrofscenarier och möjliga åtgärder. Ett motto som cirkulerat lyder: "ingenting kommer någonsin att vara detsamma igen".
En talesperson för Anthropic bekräftade att företaget har över 3 500 anställda och att det pågår en bred diskussion om teknologins framtid inom organisationen.