Google, OpenAI ja Anthropic perustamassa tekoälyn turvallisuusjärjestöä
Google, OpenAI ja Anthropic suunnittelevat tekoälyn turvallisuusstandardeja kehittävän itse sääntelevän elimen perustamista. Tavoitteena on käynnistää järjestö vuoden loppuun tai ensi vuoden alkuun mennessä ilman valtion valvontaa.
Kolme merkittävää tekoäly-yritystä – Google, OpenAI ja Anthropic – ovat käynnistäneet suunnitelmat uuden tekoälyn turvallisuusstandardeja kehittävän organisaation perustamiseksi. Tavoitteena on saada järjestö toimintaan joko tämän vuoden loppuun tai ensi vuoden alkuun mennessä, ilman hallitusten puuttumista.
Mahdollisesti Standards Authority for Frontier AI (SAFA) -nimiseksi kutsuttava elin pyrkii luomaan alan itsesääntelymekanismin erityisesti edistyneiden mallien kehittäjille. Sen suunniteltuihin tehtäviin kuuluu kolmansien osapuolten mallitestauksen tukeminen ennen niiden käyttöönottoa sekä turvallisuus- ja tietoturvatapahtumien raportointikäytäntöjen luominen.
SAFA pyrkii myös muuttamaan aiemmin vapaaehtoisia turvallisuuslupauksia konkreettisiksi käytännön standardeiksi. Lisäksi järjestö määrittelisi riippumattomien malli- ja laboratoriosykäyttäjien pätevyysvaatimukset. Keskusteluissa on pohdittu, tulisiko SAFA:n itse vastata mallien turvallisuus- ja suorituskykytesteistä.
On esitetty huolia siitä, että nykyisillä resursseilla ei riitetä kattavaan edistyneiden mallien testaukseen. Jotkut työryhmän jäsenet ehdottavat SAFA:n lisäävän olemassa olevia testejä, mutta päällekkäisyyksien mahdollisuus on yhä avoinna. Yritykset ovat myös julkisesti peräänkuuluttaneet yhtenäisiä turvallisuusstandardeja ja kansainvälistä yhteistyötä.