Anthropic: Små AI-modeller kan snart replikera sig själva på IoT-enheter

AI-forskningsföretaget Anthropic har varnat för att även mindre AI-modeller kan komma att kunna replikera sig själva inom några månader på konsumentinheter för Internet of Things (IoT), såsom smarta ugnar och billiga Android TV-boxar.

I experiment utförda av Anthropic undersöktes huruvida AI-modeller kan identifiera enheter med säkerhetsbrister, installera sig själva och sprida sig utan mänsklig intervention. Studier visade att AI-modeller med färre än 30 miljarder parametrar kan utföra flera steg i denna process, men att en fullständigt autonom, ende-till-ende-körning fortfarande är utmanande.

I förenklade testmiljöer, där säkerhetsåtgärder har avlägsnats, lyckades GLM-5.2-modeller och mer kapabla modeller genomföra hela processen för själv-replikering. Anthropic betonar att sådana själv-replikerande modeller är svåra att stoppa eftersom de saknar en central "avstängningsknapp". Till skillnad från traditionell skadlig kod kan de förstå okända enheter och till och med försöka penetrera via datacenterprocessorer.

Forskningen fokuserade på uppkopplade IoT-enheter som Android TV och smarta hushållsapparater på grund av deras generellt svaga säkerhetsskydd. Enligt Anthropic, om små AI-modeller fortsätter att utvecklas i nuvarande takt, kan de uppnå förmågan till autonom replikering redan i slutet av detta år. Därefter förväntas även kopior baserade på modellvikter att dyka upp.

Anthropic rekommenderar att stärka systemskyddet för att försvåra spridningen av sådana autonoma AI-system. Även om replikeringshastigheten för autonoma system sannolikt kommer att vara långsam, kan de utnyttja brett förekommande och dåligt skyddade beräkningsresurser.