Anthropic varnar för AI-maskars hot mot smarta enheter
Anthropic-forskare har varnat för att avancerade AI-modeller kan bli kapabla att replikera sig själva och sprida sig till miljontals smarta enheter, som TV-boxar och smarta glödlampor.
AI-företaget Anthropic har uttryckt oro över att avancerade AI-modeller kan bli kapabla att sprida sig självständigt och infektera miljontals internetanslutna smarta enheter. Dessa enheter inkluderar bland annat TV-boxar och smarta glödlampor. Att stoppa spridningen av sådana AI-drivna "maskar" kan vara svårt, då de inte nödvändigtvis kräver mänsklig intervention för att spridas.
Enligt Anthropic-forskarna skiljer sig detta hot från traditionella datorvirus. Medan traditionella maskar är kodade av människor och förblir oförändrade, kan nuvarande AI-modeller skapa ny programvara på egen hand. Detta gör det möjligt för AI att identifiera och infektera nya typer av enheter utan mänsklig styrning.
Forskningen nämner specifikt kommersiella Internet of Things (IoT)-enheter, som smarta ugnar och Android TV-boxar av olika märken. Forskarna uppskattar att om en sådan mask skulle spridas, skulle det vara utmanande att stänga ner den, eftersom det inte skulle finnas någon central punkt att stänga av. Spridningen uppskattas vara långsam, med en "dubblingstid på dagar".
Även om en spridningstid på dagar är bättre än timmar, kan det ändå leda till en omfattande infektion snabbt. På den första dagen kan en enhet vara "infekterad", på den tionde dagen 512 enheter, och efter 20 dagar över en halv miljon enheter.