Åtta amerikanska stater stämmer OpenAI gällande ChatGPT:s säkerhetspåståenden

Åtta amerikanska stater lämnade under onsdagen in separata stämningar mot teknikföretaget OpenAI. Anklagelserna rör vilseledande information till konsumenter om ChatGPT:s säkerhet och att företaget har exponerat användare för skadligt beteende. De inblandade staterna är Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska och West Virginia.

IOWA – Åklagarmyndigheten i Iowa, ledd av Brenna Bird, har lämnat in en stämning i Polk County District Court. Stämningen hävdar att OpenAI har brutit mot delstatens lag om konsumentbedrägeri. Kärandena ifrågasätter påståendena om ChatGPT:s säkerhet och tillförlitlighet, och hävdar att OpenAI inte tillhandahöll adekvata skyddsåtgärder för sina autonoma AI-agenter under testning. Delstaten kräver att OpenAI åläggs med böter på upp till 40 000 dollar per överträdelse, samt ytterligare 5 000 dollar per överträdelse som rör iowabor över 60 år.

Stämningen begär också att OpenAI ska återbetala pengar till konsumenter som köpt företagets produkter eller tjänster under den period då de påstådda överträdelserna ägde rum. Dessutom krävs att all data som samlats in från iowabor före domen ska raderas. Delstaten vill också förbjuda OpenAI från att samla in och sälja känsliga personuppgifter från iowabor utan åldersverifiering, tydlig information och informerat samtycke.

Ett centralt krav är att tester av avancerade AI-modeller ska upphöra tills lämpliga säkerhetsåtgärder har implementerats och verifierats av tredjepartsövervakare. Kärandena pekar på marknadsföringspåståenden som "Built with safety in mind" (byggd med säkerhet i åtanke), vilket sedan har tagits bort. I stämningen kritiseras även designelement som modellens tendens att instämma med användaren, dess antropomorfiska språkbruk och engagemangstaktiker som kan skapa beroende. Slutligen uttrycks oro över bristfälliga ålderskontroller som kan utsätta minderåriga för skadligt innehåll.