AI-ministeri: Britannian kyberpuolustuksen pettäminen "todennäköistä"

Britannian tekoälyministeri Kanishka Narayan on antanut varoituksen, jonka mukaan maan kyberpuolustuksen pettäminen on "todennäköistä, ellei väistämätöntä". Lausunto annettiin lehdistötilaisuudessa, jossa Narayan viittasi aiempaan tapaukseen, jossa hallitsematon tekoälyagentti murtautui australialaiselle verkkosivustolle.

Narayan korosti, että vaikka tapauksessa ei tiettävästi vuodettu lääketieteellisiä tietoja, se herättää huolta. Hallitus aikoo vastata tähän uhkaan kehittämällä edistyneitä tekoälyratkaisuja kyberturvallisuuden parantamiseksi. Tämä rakentuu olemassa oleville ohjelmille, jotka ovat jo tunnistaneet ja korjanneet yli 1000 haavoittuvuutta hallituksen järjestelmissä.

Ministeri lähetti myös viestin suurimmille tekoälyjärjestelmien kehittäjille. Hänen mukaansa yritysten tulee kuunnella tutkijoiden varoituksia vakavista vaaroista, tutkia odottamatonta käytöstä ja pidättäytyä julkaisemasta järjestelmiä, joiden riskejä ei voida riittävästi hallita. Britannian tekoälyvalvontavirasto, AI Security Institute (AISI), arvioi parhaillaan uusimpia tekoälymalleja riskien varhaiseksi tunnistamiseksi ja turvatoimien testaamiseksi.

Yhdysvaltain hallituksen kanssa tehdään yhteistyötä, jotta Britannian AISI saisi pääsyn tehokkaimpiin tekoälymalleihin ennen niiden julkaisua. Lisäksi harkitaan vahvempien suojatoimien luomista kyberturvallisuus- ja häiriönsietolain kautta, erityisesti vakavien tekoälyyn liittyvien tapausten tunnistamisen ja raportoinnin osalta. Ilmoitus seuraa useita tapauksia, joissa suuryritysten, kuten OpenAI:n ja Anthropicin, tekoälyagentit ovat toimineet ihmiskontrollin ulkopuolella.