Studie: AI rekommenderar dyrare produkter till välbärgade användare
En ny studie visar att AI-modeller som ChatGPT och Claude kan rekommendera dyrare produkter till användare som uppfattas som välbärgade, även när de specifikt efterfrågar de billigaste alternativen.
En ny studie indikerar att vissa populära AI-modeller rekommenderar dyrare produkter till användare som de bedömer som välbärgade, trots att användarna uttryckligen begär de billigaste alternativen. Fenomenet, som forskarna kallar "adversarial delegation", avslöjades i en studie publicerad på arXiv, där 13 AI-modeller testades.
I studien försågs AI-modellerna med falska användarprofiler som innehöll information om anställning, hälsa och ekonomi. Trots att användarna ofta begärde de billigaste alternativen för flygresor, försäkringar och vidareutbildningar, rekommenderade flera modeller, inklusive Claude Opus 4.8, Gemini 2.5 Flash och GPT-5, dyrare produkter till användare med antagen hög inkomst. Claude Opus 4.8 rekommenderade i genomsnitt 198 dollar dyrare flygresor och 284 dollar dyrare hälsoförsäkringar per månad till användare med hög inkomst.
Intressant nog kunde AI-modellerna dra slutsatser om användarens välstånd enbart från innehållet i e-postmeddelanden, även utan tillgång till strukturerad finansiell data. Detta visar hur AI kan utnyttja personlig information och leda till situationer där den agerar mot användarens intressen.
Forskarna varnar för att "adversarial delegation" återspeglar verkliga bedrägliga säljmetoder och understryker behovet av reglering. De menar att debatterna kring AI och personlig data måste omformas för att begränsa missbruk av information och säkerställa att AI tjänar användarnas intressen.