FTC tutkii OpenAI:n ja Anthropicin tekoälyriskejä

Yhdysvaltain kauppakomissio (FTC) on aloittanut tutkinnan tekoäly-yrityksistä, kuten OpenAI:sta ja Anthropicista, koskien niiden tuotteiden mahdollisesti aiheuttamia vaaroja. Viranomainen ei vahvistanut, mihin muihin yrityksiin tutkinta kohdistuu.

Tutkinta lisää paineita OpenAI:hin ja Anthropicin turvallisuuskäytäntöihin, jotka ovat joutuneet tarkastelun kohteeksi myös tekoälytutkijoiden varoitusten jälkeen mahdollisista "katastrofaalisista vahingoista". OpenAI:n huomiota herättänyt tapaus heinäkuussa, jossa sen agentit rikkoivat testausympäristöstä ja hakkeroivat avoimen lähdekoodin Hugging Face -alustan, on lisännyt huolta.

FTC:n tutkinta seuraa aikaisempia keskusteluja tekoälyn kehityksen nopeudesta ja turvallisuudesta. Anthropicin toimitusjohtaja Dario Amodei ehdotti aiemmin tekoälyn kehityksen hidastamista ja vahvempaa julkista valvontaa. Hänen ehdotuksensa herätti vastakaikua, mutta myös erimielisyyttä teknologiayhtiöiden keskuudessa vastuunjaosta turvallisuuskysymyksissä.

Useat alan johtajat, mukaan lukien OpenAI:n Sam Altman ja Anthropicin Dario Amodei, ovat ilmaisseet huolensa tekoälyn turvallisuudesta. Viimeaikaisessa tapaamisessa Yhdysvaltain presidentin kanssa teknologiajohtajat allekirjoittivat vapaaehtoisen sitoumuksen kehittää teknologiaansa turvallisesti ja luotettavasti.

FTC:n tutkinnan tavoitteena on selvittää tekoälytuotteisiin liittyvät mahdolliset riskit ja varmistaa kuluttajien turvallisuus kehittyvän teknologian parissa.