AI-hallucinationer förvärrar kräsna kunder

Felaktiga svar från generativ AI, som ChatGPT, gällande livsmedelsallergier skapar utmaningar inom restaurangbranschen. En servitris i New York, Madison, rapporterar att kunder börjar ifrågasätta informationen om matens ingredienser med hänvisning till AI-genererade svar.

Detta fenomen leder till farliga situationer där allergener som kan vara skadliga för kundernas hälsa kan hamna i deras mat. Enligt Madison beställer kunder som hävdar att de är allergiska mot till exempel skaldjur ändå rätter som tillagas med skaldjur, och motiverar sina val med AI:ns påståenden.

"De vill bara prata med ChatGPT", beskriver Madison situationen där kunder litar mer på felaktig information från AI än på en varning från servitrisen. Situationen har lett till att kunder inte längre ställer följdfrågor om maten när de informeras om potentiella allergener.

Rapporteringen om detta fenomen belyser behovet av faktabaserad information och kritiskt tänkande kring innehåll som genereras av AI, särskilt när det gäller hälsa och säkerhet.