KI-Halluzinationen verschlimmern Kundenanforderungen
Künstliche Intelligenz erzeugt ungenaue Informationen über Lebensmittelallergien, was zu gefährlichen Situationen in Restaurants führt, in denen Kunden der KI mehr vertrauen als dem Personal.
Ungenauigkeiten bei den Antworten von generativer künstlicher Intelligenz wie ChatGPT bezüglich Lebensmittelallergien schaffen Herausforderungen in der Gastronomie. Madison, eine Kellnerin in New York City, berichtet, dass Kunden begonnen haben, Informationen über Lebensmittelzutaten anzuzweifeln und sich dabei auf KI-generierte Daten zu berufen.
Dieses Phänomen führt zu gefährlichen Situationen, in denen für die Gesundheit der Kunden schädliche Allergene in deren Mahlzeiten gelangen könnten. Laut Madison bestellen Kunden, die beispielsweise behaupten, gegen Schalentiere allergisch zu sein, dennoch Gerichte, die mit Schalentieren zubereitet werden, und rechtfertigen ihre Entscheidungen mit den Behauptungen der KI.
"Sie wollen einfach nur mit ChatGPT reden", beschreibt Madison die Situation, in der Kunden den fehlerhaften KI-Informationen mehr Vertrauen schenken als einer Warnung der Kellnerin. Dies hat dazu geführt, dass Kunden keine weiterführenden Fragen mehr zu Lebensmitteln stellen, wenn sie über potenzielle Allergene informiert werden.
Die Berichterstattung über dieses Problem unterstreicht die Notwendigkeit der Informationsüberprüfung und des kritischen Denkens in Bezug auf KI-generierte Inhalte, insbesondere wenn es um Gesundheit und Sicherheit geht.