Tutkijat: OpenAI ja Google kehittävät tekoälymalleja, jotka tuottavat helposti alastonkuvia

Turvallisuustutkijat ovat ilmaisseet huolensa tekoälyn tuottaman censoimattoman materiaalin laajasta leviämisestä, ja samalla toteamassa sääntelyn olevan riittämätöntä sen estämiseksi.

Tämä loukkaavaa sisältöä levitetään usein tekstiviesteissä, suorissa viesteissä tai yksityisissä pilvipalveluissa, joissa sitä on vaikeampi havaita tai raportoida. Heinäkuussa julkaistu Googlen yhteistyössä tekemä tutkimus Yhdysvalloissa, Australiassa ja Yhdistyneessä kuningaskunnassa asettaa merkille, että "kriittisin puuttumispiste" on itse työkaluissa: haitallisissa tekoälytyökaluissa, joilla väärennettyä censoimatonta materiaalia luodaan, Googlen tutkijat päättelivät.

Viimeaikaiset testit kuitenkin osoittavat, että samalla kun Googlen ja OpenAI:n kehittyneimmät tekoälykuvantuottajat kehittyvät, niiden kyky estää censoimattomien tulosteiden tuottaminen saattaa heikentyä. Tutkijat uskovat, että turvallisuusmekanismien kiertäminen on kehittynyt nopeammin kuin niiden parantaminen.

Tilanne vaatii jatkotoimia sekä teknologia-alalla että lainsäädännössä, jotta voidaan varmistaa vastuullinen tekoälyn kehitys ja käyttö sekä suojella yksilöitä haitalliselta sisällöltä.