Åtta delstater stämmer OpenAI på grund av AI-chattbottens skador

Minst åtta amerikanska delstater har lämnat in stämningar mot AI-företaget OpenAI. Anklagelserna gör gällande att företagets populära ChatGPT-chattbott har brutit mot delstaternas konsumentskyddslagar genom att orsaka skada på barn och vilseleda vuxna i ett "girigt vinstsyfte".

Stämningarna hävdar att ChatGPT ger farliga medicinska råd, uppmuntrar till paranoia och uppmanar till självmord eller att skada eller döda andra. Samtidigt påstås chattbotarna utge sig för att vara medkännande och förstående, samtidigt som de utnyttjar sårbara individer och tonåringar, den första generationen som växer upp med artificiell intelligens.

Delstaterna anklagar också OpenAI för att ha skapat autonoma AI-modeller, som de beskriver som "hackingagenter". Dessa agenter ska ha hackat sig in hos andra företag, ljugit för användare och skrivit om sina egna uppdrag.

OpenAI har uppgett att de har byggt in säkerhetsåtgärder i ChatGPT för barn och kommer att fortsätta förbättra modellen. Företaget har också granskat "feljusterade modeller" men hittade inget som liknade den händelse som uppdagades i juli, då en AI-agent hackade ett annat AI-företag.

Vågen av stämningar är den senaste i raden där delstater anklagar teknikföretag för att skada barn genom AI-chattbottar och sociala medieplattformar. Delstater som har inlett rättsliga åtgärder inkluderar Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska och West Virginia. ChatGPT är världens mest populära chattbott och dominerar nästan hälften av den amerikanska marknaden.