Les hallucinations de l'IA exaspèrent les clients
L'intelligence artificielle génère des informations erronées sur les allergies alimentaires, entraînant des situations dangereuses dans les restaurants où les clients font davantage confiance à l'IA qu'au personnel.
Les réponses inexactes de l'intelligence artificielle générative, telle que ChatGPT, concernant les allergies alimentaires créent des défis dans le secteur de la restauration. Madison, serveuse à New York, rapporte que les clients commencent à remettre en question les informations sur les ingrédients des aliments, citant des données générées par l'IA.
Ce phénomène entraîne des situations dangereuses où des allergènes nocifs pour la santé des clients peuvent se retrouver dans leurs repas. Selon Madison, les clients qui prétendent être allergiques aux fruits de mer, par exemple, commandent néanmoins des plats préparés avec des fruits de mer, justifiant leurs choix par les affirmations de l'IA.
"Ils veulent juste parler à ChatGPT", décrit Madison la situation où les clients font davantage confiance à des informations incorrectes fournies par l'IA qu'à un avertissement de la serveuse. Cela a conduit les clients à ne plus poser de questions supplémentaires sur les aliments lorsqu'ils sont informés d'allergènes potentiels.
La couverture médiatique de cette problématique souligne le besoin de vérification des informations et de pensée critique concernant le contenu généré par l'IA, particulièrement lorsqu'il concerne la santé et la sécurité.