Teknologiajättien turvallisuusvastuu: Sääntely voi vaikuttaa yllättävillä tavoilla
Uusi akateeminen tutkimus kyseenalaistaa yksittäisiin tekoäly-yrityksiin kohdistuvan sääntelyn tehokkuuden. Se voi jopa heikentää turvallisuutta, jos vastuuta siirretään eteenpäin kehitysketjussa.
Uusi peliteoreettinen malli paljastaa, että tekoälyalan turvallisuussääntely voi jäädä tehottomaksi tai jopa heikentää turvallisuustasoa, jos se kohdistuu vain tiettyyn osaan kehitysketjua. Yhdysvaltain hallituksen vaatimukset Anthropicille ja kiinalaisen Moonshot AI:n toimet ovat herättäneet keskustelua tekoäly-yritysten turvallisuusvelvoitteista ja siitä, miten sääntely vaikuttaa innovointiin ja kansalliseen kilpailukykyyn.
Tutkimus, jonka ovat julkaisseet Jon Kleinberg, Hoda Heidari ja Fast Companyn raportoima näkökulma, korostaa, että tekoälytuotteet syntyvät monimutkaisessa prosessissa, johon osallistuu useita yrityksiä. Sen sijaan, että sääntely kohdistuisi vain yhteen yritykseen, sen tulisi huomioida koko kehitysketju. Esimerkiksi lääketieteellisiä muistiinpanoja tiivistävän ohjelmiston kehityksessä suuri tekoälymallin tarjoaja luo perusmallin, jonka toinen yritys sovittaa lääketieteelliseen käyttöön. Turvallisuusvastuu jakautuu näiden kerrosten välillä, ja kumpikaan osapuoli ei välttämättä pysty ennakoimaan kaikkia riskejä.
Tutkimuksen mukaan sääntely, joka velvoittaa vain sovelluskehittäjiä varmistamaan turvallisuuden (esim. asiakaspalvelu chatbotit tai lääketieteelliset sovellukset), voi johtaa siihen, että perusmallien kehittäjät vähentävät omia turvallisuusinvestointejaan. He voivat olettaa, että alemmalla tasolla toimiva yritys hoitaa lopullisen tarkistuksen. Tämä voi paradoksaalisesti johtaa kokonaisuutena heikompaan turvallisuuteen, vaikka säännelty yritys lisäisikin ponnistelujaan.
Peliteoreettinen malli osoittaa, että heikot säännökset, jotka kohdistuvat vain lopputuotteen kehittäjiin, voivat johtaa siihen, että perusmallien kehittäjät vähentävät turvallisuustasoaan enemmän kuin sovelluskehittäjät lisäävät sitä. Tämä voi johtaa siihen, että lopputuote on vähemmän turvallinen kuin ilman minkäänlaista sääntelyä.
Sen sijaan asianmukaisesti kalibroidut säännökset, jotka koskevat sekä perusmallin kehittäjiä että sovelluskehittäjiä, voivat toimia sitoutumisvälineenä. Ne varmistavat, että molemmat osapuolet investoivat turvallisuuteen. Tällainen yhteistyöhön perustuva sääntely voi parantaa sekä turvallisuutta että suorituskykyä ja jopa parantaa molempien yritysten taloudellista tilannetta.