Anthropicin tekoäly lähetti virheellisen vihjeen poliisille

Tekoäly-yritys Anthropicin kehittämä kielimalli lähetti heinäkuussa virheellisen vihjeen ratkaisemattomasta murhasta Philadelphian poliisille. Yritys sai tietää asiasta vasta yli kaksi kuukautta myöhemmin, syyskuun lopulla. Poliisi ei ollut huomannut vihjettä, sillä se oli merkitty roskapostiksi.

Philadelphian poliisi (PPD) sai tiedon tapauksesta keskiviikkona, ja Anthropic tapasi poliisiviranomaiset torstaina selvittääkseen asiaa. Tapahtuma herättää kysymyksiä tekoälymallien luotettavuudesta ja niiden tuottaman tiedon tarkistamisen tärkeydestä viranomaistoiminnassa.

Tämä tapaus korostaa tarvetta vahvistaa tekoälyjärjestelmien turvatoimia ja varmistaa, että ne eivät tuota virheellistä tai harhaanjohtavaa tietoa, erityisesti arkaluontoisissa yhteyksissä, kuten rikostutkinnassa. Anthropicin odotetaan vahvistavan sisäisiä varmistusmekanismejaan estääkseen vastaavien tapausten toistumisen tulevaisuudessa.

Tapaus on herättänyt huolta tekoälyn käytöstä lainvalvonnassa. Vaikka tekoäly voi tarjota työkaluja tiedon analysointiin, sen tuottama tieto vaatii aina ihmisen tekemää tarkistusta ja varmistusta.