Tekoälyagenttien virheet juontavat juurensa dataan, eivät kontekstiin
Monet tekoälyjärjestelmät tuottavat virheellistä tietoa itseluottamuksella, koska niiden datainsinöörityö on puutteellista. Ongelma ei johdu mallista tai kehotteista, vaan vanhentuneesta datasta.
Tekoälyjärjestelmät, kuten chatbotit, ovat alkaneet tuottaa virheellistä tietoa, vaikka niiden käyttämät mallit ja kehotteet pysyisivät samoina. Ongelman ytimessä on usein puutteellinen dataengineering, ei tekoälymalli.
Kun tekoälysovellus hakee tietoa, se ei tarkista haetun tiedon ajantasaisuutta tai oikeellisuutta. Järjestelmä voi luottaa vanhentuneisiin tietoihin esimerkiksi hinnoittelusta tai tuotetiedoista, koska se keskittyy tiedon relevanssin tai saatavuuden arviointiin. Tämä johtaa siihen, että järjestelmä antaa virheellisiä vastauksia suurella itseluottamuksella, vaikka taustalla oleva tieto ei ole enää ajan tasalla.
Vaikka tämä ongelma on yleinen yritysten tekoälyratkaisuissa, yleisimmät dataengineering-työkalut eivät kykene havaitsemaan sitä. Nykymuotoiset data-pipeline-työkalut keskittyvät yleensä prosessin läpiviennin varmistamiseen, eivätkä niinkään datan laadun ja ajantasaisuuden todentamiseen. Tämä jättää havaittavissa olevan puutteen, joka ilmenee vasta, kun käyttäjät huomaavat virheet.
Ratkaisu ongelmaan liittyy dataobservabilityyn, eli datan tarkkailtavuuteen. Tämä konsepti sisältää useita ulottuvuuksia: datan oikeellisuus (conformity), tuoreus (freshness), johdonmukaisuus (consistency) ja alkuperän jäljitettävyys (lineage). Monet yritykset, kuten Uber ja Netflix, ovat kehittäneet omia työkalujaan näiden ongelmien ratkaisemiseksi, tarjoten mallin, miten tekoälyjärjestelmien luotettavuutta voidaan parantaa datan hallinnan ja observoinnin kautta.