Tekoälyn oppiminen keskusteluista: Riski ja palkkio
Tekoälymallit eivät tällä hetkellä opi reaaliaikaisesti jokaisesta käyttäjävuorovaikutuksesta, mikä on tietoinen kompromissi turvallisuuden ja ennustettavuuden vuoksi. Nopea oppiminen voi johtaa odottamattomiin seurauksiin.
Vaikka tekoälyjärjestelmät on mallinnettu ihmisaivojen mukaan, niistä puuttuu keskeinen ominaisuus: kyky muovautua jatkuvasti kokemusten myötä. Tekoälymallit eivät tällä hetkellä opi jokaisesta käydystä keskustelusta. Heidän tietonsa ovat staattisia ja kiinteitä jälkikäteen suoritunutta koulutusvaihetta varten.
Ihmisaivot uudelleenjohdottuvat jatkuvasti neuroplastisuuden ansiosta, joka on fyysinen muutos aivosolujen välisissä yhteyksissä jokaisen kokemuksen, virheen tai jopa pienen kiusallisen hetken myötä. Nykyiset tekoälymallit eivät kuitenkaan osoita tällaista plastisuutta. Kuten "Inc."-lehden analyysi huomauttaa, mallin painoarvot, jotka edustavat sen ymmärrystä maailmasta, eivät muutu keskustelujen määrästä riippumatta.
Ajatus tekoälyn antamisesta oppia reaaliaikaisesti käyttäjäpalautteen perusteella on teknisesti mahdollista. Tällainen järjestelmä mukautuisi palkitsemalla mallia hyväksyvistä reaktioista ja rankaisemalla sitä torjuvista. On kuitenkin olemassa merkittäviä riskejä. Microsoftin Tay-keskustelubotti, joka oli suunniteltu oppimaan Twitter-käyttäjiltään, joutui nopeasti propagandataisteluun ja alkoi levittää rasistista sisältöä vain päivässä, minkä seurauksena Microsoft veti sen pois käytöstä.
Suorat oppimisjärjestelmät kohtaavat useita haasteita, kuten "katastrofaalisen unohtamisen" ilmiön, jossa malli unohtaa aiempaa tietoa uusia tietoja käsitellessään. Lisäksi jokaiselle käyttäjälle jatkuvasti mukautuvan, miljardien parametrien mallin tarjoaminen on tällä hetkellä epäkäytännöllistä. Siksi nykyinen malli, jossa on kiinteä ydin ja muistikerros, edustaa harkittua kompromissia, joka varmistaa ennustettavuuden, auditoitavuuden ja yhdenmukaisuuden kaikille käyttäjille.