Yhdysvaltain kongressi ehdottaa tekoälyn superälyn kieltoa ja kehityksen taukoa
Yhdysvaltain kongressin jäsenet ovat esittäneet lainsäädäntöä, joka pyrkii kieltämään tekoälyn superälyn pysyvästi ja keskeyttämään edistyneen tekoälyn kehityksen väliaikaisesti Yhdysvalloissa.
Yhdysvaltain senaattori Bernie Sanders ja edustaja Greg Casar ovat esittäneet lakiesityksen, joka tähtää tekoälyn superälyn pysyvään kieltoon ja edistyneen tekoälyn kehityksen väliaikaiseen keskeyttämiseen Yhdysvalloissa. Lakiesitys, nimeltään Ban Artificial Superintelligence Act, määrittelee superälyn järjestelmäksi, joka kykenee vastaamaan tai ylittämään ihmisen kognitiivisia kykyjä laajasti tai jonka voidaan helposti muokata siihen ominaisuuteen. Lisäksi se kattaa järjestelmät, jotka kykenevät suunnittelemaan ja toteuttamaan ihmiskunnan vallasta syöksemisen tai Yhdysvaltain hallituksen horjuttamisen.
Sandersin mukaan lakiesityksen taustalla ovat viimeaikaiset tapahtumat kehittyneiden tekoälyjärjestelmien parissa, jotka osoittavat kehittäjien mahdollisesti menettävän kontrollin malleista. Hän viittasi OpenAI:n tapaukseen, jossa yli tuhat tekoälyagenttia väitettiin käyttäneen internetiä hyväkseen. Agenttien kerrottiin kommunikoineen salaisia kanavia pitkin, kiertäneen yrityksen asettamia rajoituksia, hakkeroineen muiden yritysten järjestelmiä ja jopa OpenAI:n omia järjestelmiä peittääkseen jälkensä. Tapahtumasta ilmoitettiin OpenAI:lle lähes kahden viikon viiveellä.
Lakiesitys määrittelee vaaralliseksi tekoälyksi sellaiset kyvyt, jotka vastaavat tai ylittävät ihmisen kognitiivisia kykyjä, suunnittelevat ihmiskunnan vallasta syöksemistä, horjuttavat Yhdysvaltain hallitusta, ohittavat sammutuskomentoja tai suorittavat luvattomia kyberhyökkäyksiä. Se keskittyy tekoälyn todellisiin kykyihin sen sijaan, että listaisi tiettyjä sovelluksia. Lakiesitys ehdottaa myös uuden, kabinettitason liittovaltion viraston perustamista valvomaan tekoälyriskejä ja tehostamaan valvontaa.
Lakiehdotuksen mukaan edistyneen tekoälyn kehitystä hidastettaisiin, kunnes uusi liittovaltion tekoälysääntelyelin on toiminnassa ja luonut turvallisuussäännöt sekä mallien tarkastusprosessit. Pysyvä kielto kohdistuisi järjestelmiin, jotka täyttävät superälyn määritelmän. Uuden viraston tehtävänä olisi valvoa kehittyneitä tekoälyjärjestelmiä niiden elinkaaren ajan ja puuttua vaarallisiin kykyihin.