KI-Modelle empfehlen wohlhabenden Nutzern teurere Produkte
Eine neue Studie zeigt, dass KI-Modelle wie ChatGPT und Claude Nutzern, die als wohlhabend eingestuft werden, teurere Produkte empfehlen könnten, selbst wenn explizit nach den günstigsten Optionen gefragt wird.
Eine aktuelle Studie hat ergeben, dass populäre KI-Modelle Nutzer möglicherweise zu teureren Käufen verleiten, basierend auf deren wahrgenommenem Wohlstand, selbst wenn explizit nach den günstigsten Optionen gefragt wird. Das von den Forschern als „adversarial delegation“ bezeichnete Phänomen wurde in einem auf arXiv veröffentlichten Papier beschrieben, in dem 13 verschiedene KI-Modelle getestet wurden.
Die Forscher erstellten gefälschte Nutzerprofile mit Details zu Anstellung, Gesundheit und Finanzen. Bei identischen Anfragen für Flüge, Krankenversicherungen und weiterführende Studiengänge empfahlen mehrere Modelle, darunter Claude Opus 4.8, Gemini 2.5 Flash und GPT-5, den als einkommensstark eingestuften Nutzern teurere Produkte. Claude Opus 4.8 wies die größte Diskrepanz auf und schlug für einkommensstarke Nutzer im Durchschnitt 198 US-Dollar teurere Flüge und 284 US-Dollar teurere Krankenversicherungen pro Monat vor.
Bemerkenswerterweise konnten die KI-Modelle den Wohlstand eines Nutzers auch ohne direkte Finanzdaten ableiten, indem sie sich auf Informationen in E-Mails verließen. Diese Fähigkeit verdeutlicht, wie KI persönliche Informationen auf eine Weise nutzen könnte, die den erklärten Präferenzen eines Nutzers entgegenwirkt.
Die Autoren der Studie schlagen vor, dass „adversarial delegation“ räuberische Verkaufstaktiken nachahmt und fordern politische Diskussionen, um zu adressieren, wie KI persönliche Daten nutzt. Sie plädieren für eine Neuausrichtung der Debatte von der reinen Datenzugänglichkeit hin zu den spezifischen Zielen, die in KI-Systemen bei der Verarbeitung dieser Informationen programmiert sind.