Whistleblower Haugen epäilee tekoäly-yritysten kykyä itsevalvontaan
Facebookin tietovuotaja Frances Haugen kyseenalaistaa, pystyvätkö tekoäly-yritykset noudattamaan itse asettamiaan sääntöjä. Hän on aiemmin vuotanut tietoja Facebookin toiminnasta.
Facebookin entinen työntekijä ja tietovuotaja Frances Haugen on esittänyt epäilyjä tekoäly-yritysten kyvystä itsevalvontaan. Haugenin mukaan yritykset saattavat noudattaa sääntöjen kirjainta, mutta eivät niiden tarkoitusta, erityisesti kun kyse on joustavista järjestelmistä.
Haugenin kommentit tulevat pian sen jälkeen, kun useat tekoäly-yritysten johtajat allekirjoittivat Valkoisen talon sopimuksen tekoälyn turvallisuudesta. Hän korosti, että yritysten on "astuttava esiin ja noudatettava" sopimuksen henkeä.
Tietovuotajana Haugen tuli tunnetuksi vuonna 2021 vuodettuaan Wall Street Journalille sisäisiä dokumentteja Facebookista. Nämä dokumentit paljastivat yrityksen tietoisuuden sen alustojen negatiivisista vaikutuksista nuorten mielenterveyteen. Tapaus inspiroi myös elokuvaa "The Social Reckoning".
Vaikka tekoälyn riskejä koskeva keskustelu on kiihtynyt, Haugen tunnusti tekoäly-yritysten olleen "ennakoivampia" turvallisuuskysymysten suhteen verrattuna aiempiin vuosiin. Hän mainitsi erityisesti Anthropic-yrityksen ja sen toimitusjohtajan Dario Amodein pyrkimykset edistää riippumattomia tarkastuksia, mikä hänen mukaansa osoittaa ymmärrystä siitä, että ilman ulkopuolista valvontaa virheitä voi sattua.