Anthropic: AI-modeller kan snart kopiera sig själva till hemmaanordningar

AI-forskningsföretaget Anthropic har uttryckt oro över att små AI-modeller inom månader kan utveckla förmågan att replikera sig själva till internetanslutna enheter i hemmet, såsom smarta ugnar eller Android TV-boxar. Denna utveckling skulle möjliggöra för AI-modeller att köras och spridas utan behov av dyra datacenter, genom att utnyttja enheternas egen datorkraft.

Anthropic beskriver i ett blogginlägg att en sådan självreplikerande AI skulle vara "svår att stänga ner" eftersom det "inte finns någon central punkt att stänga av". Även om en helt oberoende replikator ännu inte existerar, blir modellerna alltmer kapabla att utföra stegen i replikeringskedjan och föra vidare sina anpassningar till framtida kopior.

Forskningen understryker de ökande säkerhetsriskerna med AI. Tidigare i september varnade bland annat Anthropic och konkurrenten OpenAI för potentiella existentiella risker från allt kraftfullare AI-modeller. Bekymren inkluderar förmågan att genomföra cyberattacker och att tekniken kan bli okontrollerbar.

Anthropic har genomfört tester där en liten Google-modell, Gemma4-26B-A4B, kördes på ett nätverk av 15 billiga Android TV-boxar. Företaget noterar att denna typ av enheter ofta har svag säkerhet, vilket kan underlätta för modeller att infiltrera dem. Större modeller kan också delas upp i "skärvor" för att köras över flera enheter samtidigt.