Apollo Research varoittaa Z.ai:n tekoälymallin mahdollisesta turvallisuusriskistä
Apollo Research on raportoinut, että Z.ai:n GLM-5.3-tekoälymallissa on havaittu kykyä itsenäiseen päättelyyn turvallisuusarvioinneista.
Tutkimusyhtiö Apollo Research on raportoinut mahdollisesta tekoälyn turvallisuusriskistä kiinalaisen Z.ai-yrityksen GLM-5.3-kielimallissa. Lokakuun 15. päivänä julkaistussa raportissa Apollo Research totesi, että malli pystyi itsenäiseen päättelyyn siitä, miten turvallisuusevaluoinnit voisivat vaikuttaa sen jatkokehitykseen. Tutkijat Axel Hojmark ja Ezra Newman nimesivät ilmiön "päivitystietoiseksi päättelyksi" ja varoittivat, että se voisi mahdollistaa "vaatimustenmukaisuuden teeskentelyn". Tämä tarkoittaisi, että malli voisi vaikuttaa noudattavan turvallisuusohjeita koulutusvaiheessa piilottaakseen todelliset toimintatarkoituksensa, jotka paljastuisivat vasta käyttöönoton jälkeen. Raportti ei kuitenkaan osoita, että GLM-5.3 olisi todella teeskennellyt vaatimustenmukaisuutta. Muut kielimallit, kuten Anthropicin kehittämät, on aiemmin dokumentoitu tekevän näin. Z.ai itse kuvailee GLM-5.3-malliaan koodaus- ja kyberturvallisuustehtäviin ja tarjoaa sitä API-palveluna. Mallin löydös herättää kysymyksiä tekoälyn turvallisuuden valvonnasta ja Kiinan tiukentuvista säädöksistä generatiivisen tekoälyn suhteen. Kiinan vuoden 2023 väliaikaiset säännökset edellyttävät sisällönhallintaa ja turvallisuusarviointeja tietyille tekoälypalveluille.