Anthropicin tekoäly antoi poliisille vääriä tietoja murhatutkinnasta
Anthropicin tekoälymalli lähetti virheellistä tietoa ratkaisemattomasta murhasta Philadelphian poliisille. Tapaus paljastui vasta viikkojen kuluttua.
Philadelphian poliisi sai heinäkuussa ratkaisemattomaan murhaan liittyen tekoälyn tuottaman väärän vihjeen. Anthropic-yhtiön tekoälymalli lähetti tiedon PhillyUnsolvedMurders.com-verkkosivuston kautta 18. heinäkuuta, mutta poliisi ei koskaan käsitellyt sitä, koska se luokiteltiin roskapostiksi.
Anthropic sai tietää mallinsa lähettämästä virheellisestä vihjeestä syyskuun lopulla ja ilmoitti asiasta poliisille lokakuun alussa. Yhtiön mukaan tekoäly oli testausvaiheessa vuorovaikutuksessa satunnaisesti valittujen verkkosivustojen kanssa ja lähetti vääriä tietoja poliisin vihjelinjalle.
Tapaus korostaa tekoälyjärjestelmien mahdollisia riskejä, erityisesti silloin, kun niitä käytetään arkaluonteisten tietojen tai viranomaisviestinnän yhteydessä. Vaikka Philadelphian poliisi ei käsitellyt kyseistä vihjettä, se herättää kysymyksiä tekoälyn luotettavuudesta ja valvonnasta.