AI-assistent köpte robotdammsugare åt mig

En journalist på Fast Company lät sin personliga AI-assistent, kallad Jones, köpa en robotdammsugare. Testaren upptäckte att AI:ns rekommendationer baserades på en begränsad uppsättning informationskällor, och utelämnade flera framstående recensionssajter.

Jones rekommenderade ett fåtal modeller och erbjöd länkar för att slutföra köp direkt i appen eller via återförsäljarens webbplatser. När Jones pressades om grunderna för rekommendationerna och användningen av recensionssajter, uppgav den att den hade använt både detaljhandelswebbplatser och recensioner. Särskilt gynnades webbplatsen Vacuum Wars, känd för sina omfattande tester av robotdammsugare. Andra omnämnda källor var mindre tillförlitliga, såsom en webbplats som ompackade data från Vacuum Wars och en AI-genererad sammanställning på en aromaterapiblogg.

Det var anmärkningsvärt att flera viktiga recensionssajter, inklusive Wirecutter, PCMag och Consumer Reports, utelämnades från Jones rekommendationer. Även om orsakerna inte angavs direkt, spekulerade journalisten i att det kunde bero på dessa webbplatsernas potentiella motåtgärder mot AI-företag, såsom åtgärder från The New York Times och Ziff Davis för att blockera AI-indexering och rättsliga åtgärder mot OpenAI. Consumer Reports innehåll är också ofta bakom en betald medlemskap.

Dessutom hänvisade AI-assistenten köp till Best Buy, Target och tillverkarnas egna onlinebutiker, men utelämnade Amazon helt. Detta berodde på att Amazon hade blockerat Muse-tjänstens transaktioner på sin webbplats. Meta, utvecklaren av Muse-assistenten, hade tidigare meddelat att de siktade på intäkter genom köp i appen, men enligt Meta-data genererades ingen spårning eller intäkter i detta fall ännu.

Detta fall belyser klyftan mellan AI-assistenter och traditionella utgivare. Om AI-assistenter blir vanliga kan kvaliteten och tillförlitligheten hos produktrekommendationer lida, när rekommendationer baseras på begränsad data och kommersiella intressen.