AI:s lärande från konversationer: Risk och belöning

Även om artificiella intelligenssystem är modellerade efter den mänskliga hjärnan, saknar de en avgörande egenskap: förmågan att ständigt omformas av erfarenheter. Dagens AI-modeller lär sig inte från varje konversation som förs. Deras kunskap är statisk och frusen efter en initial träningsfas.

Mänskliga hjärnor omkopplas ständigt tack vare neuroplasticitet, en fysisk förändring i kopplingarna mellan celler som sker med varje upplevelse, misstag eller till och med en liten pinsam händelse. Nuvarande AI-modeller visar dock inte sådan plasticitet. Som en analys i "Inc." noterar, förändras inte modellens vikter, som representerar dess förståelse av världen, oavsett hur många samtal den har.

Tanken på att låta AI lära sig i realtid baserat på användarfeedback är tekniskt möjlig. Ett sådant system skulle anpassa sig genom att belöna modellen för positiva reaktioner och bestraffa den för negativa. Det finns dock betydande risker. Microsofts chatbot Tay, som var utformad för att lära sig av sina Twitter-användare, blev snabbt föremål för en PR-attack och började sprida rasistiskt innehåll inom bara en dag, vilket ledde till att Microsoft drog tillbaka den.

System som lär sig direkt står inför flera utmaningar, inklusive fenomenet "katastrofal glömska", där modellen glömmer tidigare kunskap när den bearbetar ny information. Dessutom är det för närvarande opraktiskt att tillhandahålla en ständigt anpassande modell med miljarder parametrar till varje enskild användare. Därför representerar den nuvarande designen, med en fast kärna och ett avtagbart minnesskikt, ett medvetet kompromiss för att säkerställa förutsägbarhet, granskningsbarhet och enhetlighet för alla användare.