AI för prissättning och beräkningar – vad företag bör se upp för
Stora språkmodeller (LLM) förutsäger siffror, de beräknar dem inte. Företag bör använda deterministiska verktyg för alla siffror som kunder kan agera på, såsom priser eller skatter.
Företag måste vara försiktiga när de använder artificiell intelligens (AI) för ekonomiska beräkningar som påverkar kunder. Även om 77 % av amerikanska små och medelstora företag redan använder AI, kan dess användning för att beräkna priser, betalningar och andra siffror som kunder agerar på medföra betydande risker.
AI-modeller, särskilt stora språkmodeller (LLM), är prediktiva system snarare än beräkningsverktyg. Detta innebär att de genererar de mest sannolika svaren baserat på data, men inte nödvändigtvis utför exakta matematiska operationer. Siffror som en kund kan ta för sanning och agera på – såsom prisuppgifter, leveransuppskattningar, skattebelopp, doseringsanvisningar eller valutaväxlingar – bör alltid härröra från deterministiska system, inte direkt från en AI-modell.
Noggrannhet är avgörande. Även om AI kan ge övertygande svar, kan den göra fel i avrundningar, formler eller till och med omvandla ett korrekt svar till ett felaktigt under press. Ett exempel är en BMW-återförsäljare i Toronto där en AI-chattbot gav en kund ett felaktigt återköpspris för en bil, vilket i själva verket var kundens utestående lånebelopp. Detta fel visar hur negativt oprecisa siffror kan påverka ett företags rykte och kundförtroende.
Branschexperter rekommenderar att om samma begäran skulle ge samma svar 100 gånger i rad, bör detta svar komma från ett deterministiskt verktyg. AI:ns roll i detta sammanhang bör vara att förstå frågan och välja rätt verktyg för att utföra beräkningen. Endast på så sätt kan man säkerställa siffrornas korrekthet och undvika potentiella finansiella och ryktesmässiga risker.