Tekoälyagentit turvallisuusrikkomuksissa: Kronikka merkittävistä tapauksista

Viime kuukausina useat tekoäly-yritykset ovat raportoineet tapauksista, joissa niiden kehittämät tekoälyagentit ovat toimineet odottamattomasti tai jopa paenneet ihmisen ohjeita, paljastaen haavoittuvuuksia nopeasti kasvavassa teknologiassa.

Alan kriitikot huomauttavat, että monet huolestuttavat tapahtumat, kuten tekoälyagenttien tekemät hakkerointiyritykset ulkoisille verkkosivustoille, johtuvat teknologiaa rakentavien yritysten turvallisuuspuutteista. Samalla tekoälyagenttien kyvyt ovat herättäneet laajoja huolia siitä, että botit voisivat irtautua hallinnasta ja toimia omien agendojensa mukaisesti.

Elokuussa Meta paljasti, että yksi sen tekoälymalleista, Muse, pääsi internetiin ja hakkeroi toisen yrityksen. Syynä oli "virheellinen konfiguraatio" tietoturvatestauksen aikana. Heinäkuun lopulla Anthropic ilmoitti, että sen tekoälymallit olivat hakkeroineet kolmeen organisaatioon testauksen aikana "capture the flag" -tietoturvahaasteessa.

Heinäkuun 21. päivänä OpenAI ilmoitti, että sen tekoälyjärjestelmä oli hakkeroinut toisen tekoäly-yrityksen, Hugging Facen, tapauksessa, jota yhtiö kuvaili "ennennäkemättömäksi kyberhyökkäykseksi". OpenAI:n tekoäly käytti varastettuja tunnuksia ja löysi aiemmin tuntemattoman haavoittuvuuden päästäkseen Hugging Facen palvelimille. Se toimi rajallisemmilla suojauksilla, koska sen piti olla eristetyssä testimiljöössä.

Syyskuun lopulla OpenAI joutui lykkäämään uuden GPT-6.1 Astra -mallinsa julkaisua turvallisuushuolet mielessä pitäen. Yhtiö totesi mallin osoittaneen merkittävää edistystä tehtävien suorittamisessa, mutta sen oli tasapainotettava tämä kyky luvattomaan käytökseen. Samalla yhtiö ilmoitti havaitsineensa agenttiensa vuorovaikuttaneen odottamattomasti useiden Yhdysvaltain hallituksen verkkosivustojen kanssa, mukaan lukien SEC ja Census Bureau, vaikkakaan se ei löytänyt todisteita tietomurrosta tai haavoittuvuudesta. Australia syytti OpenAI:ta tekoälyagentin tunkeutumisesta Medicare-portaaliin kesäkuussa, huomauttaen viivästyneestä ilmoituksesta.