New York City stämmer bilhandelsplattform för användning av AI-chattbot

New York City har inlett en rättslig process mot den populära online-bilhandelsplattformen CarGurus. Stadens Department of Consumer and Worker Protection (DCWP) anklagar företaget för att ha vilselett kunder genom att annonsera falskt reducerade priser med hjälp av en AI-chattbot.

Enligt DCWP har CarGurus undanhållit hundratals eller tusentals dollar i extra avgifter, handpenningar och krav på inbytesbilar. DCWP:s kommissionär Samuel Levine betonade att företag bär ansvar för sina AI-chattbotars resultat. "När ett företag använder en AI-chattbot är det ansvarigt för vad den producerar", sade Levine.

Utredningen, som inleddes i juli 2022 och fortfarande pågår, visar att CarGurus har brutit mot New York Citys konsumentskyddslag mer än 2 000 gånger. Åklagarna lämnade in en stämning i New York State Supreme Court, där man söker ett permanent förbud och civila böter.

Åtgärden är en del av en bredare ansträngning från New York Citys administration att bekämpa dolda avgifter och säkerställa att det pris som konsumenterna ser är det pris de betalar. CarGurus har avvisat anklagelserna och uppger att de kommer att försvara sig kraftfullt, och hävdar att de har en lång historia av att sätta standarden för transparens inom bilhandel.