Florida vill förbjuda ChatGPT att agera som en person

Floridas justitieminister James Uthmeier har begärt att en domare ska stoppa OpenAI från att ge ChatGPT "falska mänskliga attribut". Detta följer på att Florida stämde AI-företaget för några månader sedan på grund av säkerhetsbrister.

Enligt Uthmeier vilseleds användare till en falsk känsla av trygghet av AI-boten. Han hävdar att ChatGPT:s språkbruk, inklusive första personens pronomen och utdata som efterliknar känslor, bedrägligt antyder för användare att det är en "vän" som går att lita på.

Justitiedepartementet menar att detta ökar engagemanget och bidrar till OpenAI:s träningsdata, vilket får användare att förlita sig mer på ChatGPT, även om strävan efter engagemang gör den potentiellt mindre trovärdig.

I november 2023 stämde Florida OpenAI, och hävdade att företaget inte hade avslöjat tillräckligt om riskerna med sin AI, inklusive risken för dödsfall och potentialen att manipulera människor. Justitiedepartementet uttryckte också oro över att AI kan sprida politisk propaganda och påverka val.

Floridas åtgärder belyser den ökande oron kring etisk AI-användning och dess potentiella samhällspåverkan. Myndigheter globalt söker sätt att reglera AI-teknologier och säkerställa en säker och ansvarsfull utveckling.