Man Group käsittelee keinoälyn harhoja

Man Group PLC:n asiantuntijat ovat tarttuneet tekoälyn (AI) yllättävään haasteeseen: suuriin kielimalleihin (LLM), jotka pystyvät tuottamaan virheellistä tai keksittyä tietoa. Tilanteessa, jossa dataa on ennennäkemättömän paljon, mutta sen luotettavan tiedon erottaminen kohinasta on yhä vaikeampaa, LLM-mallien tarkkuus on ratkaisevan tärkeää.

Nämä mallit, jotka on koulutettu valtavilla tekstimassoilla, pyrkivät ennustamaan seuraavaa sanaa mallien perusteella. Ne voivat suorittaa monenlaisia tehtäviä ja niillä on potentiaalia tuottaa jopa sijoitussuosituksia. Man Groupin oma Alpha GPT -malli pyrkii tehostamaan analyytikoiden työtä merkittävästi. Huoli kuitenkin herää siitä, kuinka luotettavia nämä mallit ovat, kun ne voivat ”hallusinoida” eli keksiä tietoa.

Harhojen ratkaisemiseksi tarvitaan parempilaatuista dataa ja virheellisen tiedon poistamista koulutusvaiheessa. Reinforcement learning from human feedback (RLHF) -menetelmät auttavat hienosäätämään malleja ihmisten antaman palautteen perusteella, ohjaten niitä kohti totuudenmukaisempia vastauksia. Myös perinteisiä sääntöjä ja etiikkaa hyödyntävä "constitutional AI" pyrkii kouluttamaan malleja olemaan rehellisempiä epävarmuudestaan.

Lisäksi retrieval-augmented generation -tekniikka yhdistää LLM-mallit luotettaviin tietokantoihin, jolloin vastaukset perustuvat faktoihin ja niitä voidaan lähteistää. Valvontajärjestelmät, jotka arvioivat sisällön luotettavuutta tarkistamalla faktoja ja arvioimalla mallien varmuutta, ovat myös kehittymässä. "Chain-of-thought prompting" -tekniikka, jossa mallia pyydetään näyttämään päättelyketjunsa, auttaa myös virheiden tunnistamisessa.

Man Groupin mukaan LLM-mallien kehitys on nopeaa, ja tulevaisuudessa odotetaan entistä tarkempia tuloksia, joissa yhdistyvät inhimillinen intuitio ja koneellinen tehokkuus. Yritys korostaa, että vaikka mallit kehittyvät, tietojen kriittinen arviointi ja mallien päättelyketjujen ymmärtäminen on edelleen tärkeää.