Tekoälyn suojakaiteet haittaavat kyberturvallisuustutkimusta
Tekoälyjättien asettamat rajoitukset haittaavat myös turvallisuustutkijoita, jotka etsivät haavoittuvuuksia. Vaikka suojakaiteet on tarkoitettu estämään pahantahtoisia hyökkäyksiä, ne rajoittavat myös laillista työtä.
Teknologiajulkaisu TechCrunchin mukaan tekoäly-yritysten, kuten OpenAI:n ja Anthropicin, asettamat tiukat suojakaiteet alkavat haitata myös hyökkäävän kyberturvallisuuden tutkijoiden työtä. Nämä suojakaiteet on alun perin suunniteltu estämään tekoälymallien käyttöä kyberhyökkäysten suunnitteluun ja toteuttamiseen, mutta ne rajoittavat nyt myös haavoittuvuuksien etsintään ja korjaamiseen keskittyvien tutkijoiden toimintaa.
Kesäkuussa Yhdysvaltain hallitus asetti vientirajoituksia Anthropicin Mythos- ja Fable-tekoälymalleille. Vaikka rajoitusten taustalla oli raportteja suojakaiteiden mahdollisesta ohittamisesta, ne ovat vaikuttaneet laajemmin turvallisuustutkimukseen. Molemmat suuret tekoälytoimijat ovat tarjonneet erillisiä, tarkoin valvottuja ohjelmia, kuten OpenAI:n "Trusted Access for Cyber" ja Anthropicin "Cyber Verification Program", joihin tutkijat voivat hakea pääsyä vähemmillä rajoituksilla.
Kyberturvallisuustutkijat, jotka etsivät tuntemattomia haavoittuvuuksia ja kehittävät työkaluja niiden hyödyntämiseen, kokevat suojakaiteiden hidastavan työtään. Rajoitukset voivat estää tehokkaasti uusien uhkien tunnistamisen ja ennakoimisen, mikä on olennaista koko digitaalisen ekosysteemin turvallisuudelle. Tutkijat ovat ilmaisseet huolensa siitä, että liian tiukat rajoitukset voivat lopulta heikentää puolustuskykyä.
Vientirajoitukset Anthropicin malleille on sittemmin purettu tai niitä on lievennetty, ja Fable 5 on palannut yleiseen käyttöön. Mythos 5 on kuitenkin edelleen saatavilla vain Yhdysvaltain viranomaisten valitsemille organisaatioille. Alan odottaa, löytävätkö tekoäly-yritykset tasapainon turvallisuuden ja tutkijoiden työn helpottamiseksi.