AI-yritykset varautuvat katastrofeihin ja kritiikkiin
OpenAI ja Anthropic valmistautuvat mahdollisiin AI-katastrofeihin liittyvään julkiseen ja poliittiseen vastareaktioon. Raporttien mukaan alan johtajat arvioivat pahimpia skenaarioita ja keskustelevat lainsäätäjien kanssa.
Tekoäly-yritykset OpenAI ja Anthropic raportoidaan valmistautuvan mahdolliseen julkiseen ja poliittiseen vastareaktioon, jos tekoäly aiheuttaa katastrofin, joka häiritsee kriittistä infrastruktuuria, rahoituspalveluita tai internet-yhteyksiä. Axios-raportin mukaan yritysten johtajat arvioivat pahimpia skenaarioita ja suunnittelevat keskusteluja Yhdysvaltain lainsäätäjien kanssa.
Alan sisäpiiriläiset arvioivat, että merkittävä tekoälyyn liittyvä häiriö voisi tapahtua seuraavan kuuden tai kahdentoista kuukauden kuluessa. OpenAI on kertonut, että sen valmiusharjoitukset kattavat mahdollisia skenaarioita, eivätkä ne pidä niitä väistämättöminä. Anthropic kieltäytyi kommentoimasta tapausta.
Raportin mukaan tällainen tapahtuma voisi johtaa laajoihin rajoituksiin ja valvontaan alan johtajia, kuten Anthropicin toimitusjohtaja Dario Amodeita ja OpenAI:n toimitusjohtaja Sam Altmania kohtaan. Raportissa mainitaan myös, että Donald Trump saattaisi joutua kritiikin kohteeksi vastustettuaan tiukempia tekoälysäännöksiä.
Valmistelut tulevat aikaan, jolloin tekoälyjärjestelmät kykenevät yhä paremmin suorittamaan koodia, hyödyntämään ohjelmistojen haavoittuvuuksia ja koordinoimaan autonomisia agentteja. Tämä herättää huolta siitä, pysyvätkö turvatoimet kehityksen tahdissa.