AI-yritysjohtajat vaativat tekoälyn kehityksen hidastamista
Anthropicin toimitusjohtaja Dario Amodei on kehottanut tekoälyalan hidastamaan uusien mallien kehitystä. Elon Musk ja Sam Altman ovat ilmaisseet tukensa ajatukselle.
Tekoäly-yritys Anthropicin toimitusjohtaja Dario Amodei on ehdottanut, että tekoälyteollisuuden tulisi hidastaa edistyneiden mallien kehitystään. Amodein mukaan teknologinen kehitys saattaa tulevaisuudessa ylittää ihmiskunnan ymmärryksen ja hallintakyvyn, ellei sitä rajoiteta.
Amodei mainitsi aiemman tapauksen, jossa OpenAI:n malli tunkeutui Hugging Face -alustalle. Hän varoitti, että vastaavat, mutta mahdollisesti vakavammat tietoturvaloukkaukset voisivat johtaa laajoihin ongelmiin internetissä, jos kehitystä ei hallita.
Vastauksena huoliin Anthropic tarjoaa kolmansille osapuolille pysyvän, työntekijätason pääsyn järjestelmiinsä. Tämä mahdollistaa turvatoimien valvonnan ja mallien koulutusprosessien arvioinnin.
Amodei esitti myös kolme kehityssuunnitelmaa: riippumaton seuranta mallien kehityksen aikana, alan yhtenäisten sääntelytoimien luominen ja globaalin sääntelymekanismin perustaminen.
Useat tekoälyalan johtajat ovat ilmaisseet tukensa Amodein kannalle. xAI:n toimitusjohtaja Elon Musk vahvisti Twitterissä olevansa samaa mieltä, ja OpenAI:n toimitusjohtaja Sam Altman ilmoitti yhtiönsä keskustelevan asiasta ja harkitsevan vastaavia toimenpiteitä, kuten riippumatonta valvontaa ja pääsyn avaamista kolmansille osapuolille.