AI-ekonomin bygger på oklara "tokens"
De "tokens" som AI-motorer använder, små språkenheter som bearbetas av modellerna, skapar förvirring hos användare som kämpar med att förstå deras värde och kostnad.
Tre år in i AI-boomen kämpar användare fortfarande med att förstå det verkliga värdet av AI-tokens. Dessa tokens är grundläggande enheter som AI-system använder för att bearbeta, resonera och kommunicera. De kan representera enskilda tecken, ord eller delar av ord.
För vanliga konsumenter som använder tjänster som ChatGPT eller Claude kan det vara svårt att förstå vad en token är och vad den kostar, trots uppskattningar om hur många tokens en uppgift förbrukar. Oväntade gränsöverskridanden kan vara frustrerande.
Användare rapporterar ofta att de stöter på token-begränsningar, vilket kan påverka djupet i konversationer eller orsaka avbrott under högtrafik. Även om mer komplexa uppgifter kräver fler tokens, finns det betydande variationer i prissättningen mellan företag, och personaliserade modeller kan ytterligare påverka förbrukningen.
Det finns olika typer av tokens, inklusive input tokens för användarens indata, output tokens för modellens svar och cached tokens för återanvändning av information. Forskning från Stanford University har visat att olika modeller kan förbruka upp till 30 gånger fler tokens för samma uppgift. Dessutom tenderar modeller att underskatta sin egen token-förbrukning, vilket gör det svårt att förutsäga de faktiska kostnaderna.
Token-enheternas oklara natur speglar en bredare oro för att konsumenter uppmanas att anamma AI-teknik innan de fullt ut förstår dess villkor. Även om tokens bara är en av många oklara valutor i dagens ekonomi, belyser förvirringen kring dem behovet av tydlighet när det gäller prissättning och begränsningar för AI-användning.