AI-utvecklare ställs inför rätta för produktansvar

Brittiska Kolumbien är den senaste regeringen att stämma OpenAI, med anledning av en dödlig skolskjutning i Tumbler Ridge i februari. Staten hävdar att företaget misslyckades med att varna polisen innan händelsen. Fallet understryker en växande juridisk debatt om huruvida AI-verktyg ska betraktas som produkter, vars potentiella defekter kan leda till att tillverkaren blir ansvarig.

Provinsen anklagar OpenAI för att inte ha informerat brottsbekämpande myndigheter, trots att gärningsmannens konversationer med ChatGPT hade väckt interna varningsklockor. Attacken resulterade i åtta dödsfall och 27 skadade. OpenAI har uppgett att de har åtgärder för att förhindra skada och samarbetar med brottsbekämpande myndigheter vid identifiering av trovärdiga hot.

Detta är inte ett isolerat fall. Förra året stämde Matthew och Maria Raine OpenAI efter sin 16-årige sons död, med påståendet att ChatGPT bidrog till självmordstankar. OpenAI bestrider ansvar, men har medgett att deras säkerhetsåtgärder kan bli mindre effektiva under långa konversationer. Lika anklagelser har riktats mot Character.AI och Google gällande en annan tonårings död, där en federal domare har tillåtit produktansvarskrav att fortsätta, vilket fokuserar på appens design snarare än dess innehåll.

Den breda användningen av AI ökar riskerna och möjligheterna för fel. Som Eric Goldman, professor i juridik vid Santa Clara University, konstaterar, har AI gått från tidiga användare till att bli mainstream. Detta leder till fler situationer där misstag kan ske, särskilt bland användare som är mindre insatta i tekniken. Rättssystemet verkar luta sig mot produktansvar, där designfel kan leda till tillverkarens ersättningsskyldighet.

Experter som Eran Kahana, AI-jurist, förutspår att designaspekten kommer att bli allt viktigare. Chatbotarnas funktioner som minne och emotionell spegling, som gör dem mer mänskliga, kan också utsätta sårbara användare för risker. Juridiska frågor, såsom huruvida chattbotar betraktas som produkter och hur stort ansvar deras skapare bär för användares agerande baserat på deras råd, är fortfarande obesvarade. Lagstiftning kan i framtiden erbjuda AI-företag skydd, liknande det som internetföretag fick på 1990-talet genom Section 230.