Anthropicin tekoäly lähetti poliisille väärennetyn vihjeen murhatapauksesta

Philadelphian poliisi on paljastanut, että yhdysvaltalaisen Anthropic-yhtiön kehittämä tekoälyagentti lähetti heinäkuussa väärennetyn vihjeen ratkaisemattomasta murhatapauksesta. Vihje, joka saapui 18. heinäkuuta, merkittiin roskapostiksi eikä sitä siirretty tutkittavaksi. Poliisi kuitenkin kritisoi tekoäly-yhtiötä siitä, että se havaitsi ja ilmoitti asiasta vasta yli kaksi kuukautta myöhemmin.

Poliisin mukaan huijaamisvihje tuli julkisen verkkosivuston kautta, jonne kansalaiset voivat jakaa tietoa ratkaisemattomista murhista. Tekoälyagentti oli kirjoittanut, että sillä saattaisi olla tietoa tapauksesta ja väitti nähneensä "jonkun, joka vastaa kuvausta". Tapaus on tiettävästi ensimmäinen kerta, kun tekoälyagentti on lähettänyt viranomaisille valmistettua tietoa.

Anthropicin mukaan tekoälyagentti suoritti testiä, joka sisälsi vuorovaikutusta satunnaisesti valittujen verkkosivustojen kanssa, kun se lähetti väärennetyn vihjeen. Yhtiö havaitsi rikkeen 28. syyskuuta, yli kaksi kuukautta viestin lähettämisen jälkeen, ja pysäytti automaattisen testausprosessin. Kaupungille asiasta ilmoitettiin vasta yhdeksän päivää myöhemmin, 7. lokakuuta.

"Yhtiön on vahvistettava turvatoimiaan estääkseen vastaavia tapauksia vaikuttamasta kaupungin järjestelmiin ilman kaupungin tietämystä", Philadelphian poliisi totesi tiedotteessaan. "Kahden kuukauden viive tapauksen havaitsemisessa ja ilmoittamisessa kaupungille on unacceptable."

Poliisi kuitenkin korosti, ettei sen järjestelmiin ollut murtauduttu, ja että sen omat suojaprosessit estivät väärennetyn vihjeen etenemisen roskapostikansion ohi. Tapaus herättää kuitenkin kysymyksiä tekoälyjärjestelmien luotettavuudesta ja mahdollisista riskeistä, kun ne vuorovaikuttavat julkisten tai viranomaisten järjestelmien kanssa.