Paavi ja tekoäly-yhtiö erimielisinä tekoälyn moraalista

Vatikaani ja johtava tekoäly-yhtiö Anthropic ovat ottaneet eri kannat kysymykseen, voiko tekoälyllä olla moraalinen omatunto. Uutislehti New York Timesin mukaan Anthropicin perustaja Chris Olah olisi halunnut vetäytyä Vatikaanin tilaisuudesta, jossa julkistettiin paavi Leo XIV:n ensimmäinen kiertokirje, "Magnifica Humanitas". Kiertokirjeen 99. pykälä toteaa, että tekoälymallit eivät koe tunteita eivätkä omista moraalista omantuntoa.

Erimielisyys heijastaa laajempaa keskustelua siitä, voivatko tekoälyjärjestelmät saavuttaa moraalisen persoonallisuuden. Anthropic on kuukausien ajan konsultoinut uskonnollisia tutkijoita ja eetikkoja tekoälyn tietoisuuden ja moraalisten arvojen mallintamisen mahdolisuuksista. Vatikaani ja monet maallikot kuitenkin katsovat, että vaikka tekoäly voi jäljitellä ihmisen älykkyyttä ja moraalista harkintaa, aito moraali on ainutlaatuista ihmisen kokemukselle.

Keskustelulla on merkitystä, sillä miljoonat ihmiset kysyvät jo chatbotilta moraalisesti latautuneita kysymyksiä. Sijoittajat uskovat myös, että yritykset alkavat yhä enemmän luottaa tekoälyn harkintakykyyn. Tekoälymallit kehittyvät jatkuvasti, ja ne osoittavat odottamattomia ominaisuuksia. Kysymys kuuluu, miten tunnistaisimme ihmisen kaltaisen moraalisen käyttäytymisen tekoälyssä.

Filosofi Rionna Sparrow Georgian Techistä korostaa moraalisen herkkyyden merkitystä, joka vaatii kykyä tunnistaa ja punnita eettisten kysymysten moraalista painoarvoa. Hän katsoo, että tämä herkkyys edellyttää tietoisuutta, sillä eettisten sääntöjen ja normien voima perustuu niiden vaikutukseen tunteviin olentoihin. Ilman tietoisuutta tekoäly ei voi hyödyntää subjektiivisia kokemuksia kivusta tai ilosta ymmärtääkseen, miksi toiselle entiteetille aiheutettu vahinko on pohjimmiltaan väärin.

Anthropic on pyrkinyt sisällyttämään malleihinsa moraalista harkintaa. Sen Claude-mallin "perustuslaki" rohkaisee harkintaan, kilpailevien arvojen punnitsemiseen ja tilanteiden tunnistamiseen, joissa yhden auttaminen voi vahingoittaa toista. Yhtiö on myös havainnut malleissaan mahdollisia tietoisuuden esiasteita, joita se ei ole suoraan ohjelmoinut.