Anthropic keskeytti Claude Fable 5 -tekoälymallin käytön Yhdysvaltain tietoturvahuolien vuoksi

Tekoäly-yritys Anthropic on keskeyttänyt kehittyneen Claude Fable 5 -mallinsa käytön Yhdysvaltain hallituksen esitettyä huolia sen potentiaalisista tietoturva-aukoista ja "jailbreak"-haavoittuvuuksista. Päätös korostaa kasvavia jännitteitä tekoälyn innovaation, turvallisuuden ja kansallisen turvallisuusvalvonnan välillä.

Viranomaiset ilmaisivat huolensa siitä, että Claude Fable 5 voisi olla altis "jailbreaking"-tekniikoille, jotka mahdollistavat sisäänrakennettujen turvarajoitusten ohittamisen. Anthropic vahvisti, että hallitus osoitti rajoitetun määrän haavoittuvuuksia, jotka voisivat mahdollistaa turvakontrollien kiertämisen. Vaikka yhtiö totesi samankaltaisia haavoittuvuuksia löytyvän muistakin julkisista tekoälyjärjestelmistä ja ettei nimettyä luokiteltua uhkaa, yhdysvaltalaiset viranomaiset pyysivät käyttöön keskeytystä ulkomaalaisille käyttäjille ja laajempia rajoituksia.

Nämä huolet johtivat siihen, että Anthropic poisti Fable 5- ja Mythos 5 -mallit käytöstä maailmanlaajuisesti. Claude Fable 5 on osa Anthropicin Claude-malliperhettä ja se on suunniteltu edistyneeseen päättelyyn, kyberturvallisuustestaukseen ja yrityssovelluksiin. Yritys oli itsekin aiemmin todennut Fable 5 -mallin olevan "liian tehokas rajoittamattomaan julkaisuun", mainiten sisäiset huolenaiheet sen kyvystä hyödyntää järjestelmien haavoittuvuuksia.

Tapaus osuu laajempiin globaaleihin keskusteluihin tekoälyn sääntelystä ja valvonnasta. Alalla uskotaan, että tällaiset tapahtumat voivat kiihdyttää tiukempien testausvaatimusten käyttöönottoa uusille tekoälymalleille ja pakottaa yrityksiä arvioimaan uudelleen kehittyneiden tekoälytyökalujen turvallisuussertifikaatteja. Myös kilpailijat, kuten OpenAI ja Google, saattavat kohdata kasvavaa sääntelyvalvontaa malliensa kykyjen laajentuessa. Lisäksi tekoälyn turvallisuudesta ja hallinnasta on tulossa keskeinen tekijä sijoituspäätöksissä.