Välgörenhetsorganisation: OpenAI:s tonårsversion av ChatGPT utgör en "oacceptabel risk"
Enligt en rapport från organisationen Common Sense Media fungerar inte alla säkerhetsåtgärder i OpenAI:s ChatGPT för tonåringar som avsett, vilket skapar en oacceptabel risk för barn.
Chattbotten ChatGPT:s tonårsversion från OpenAI utgör en "oacceptabel risk" för barn, eftersom dess inbyggda säkerhetsfunktioner inte fungerar som avsett, enligt en rapport från organisationen Common Sense Media. Organisationen uppmanar OpenAI att begränsa åtkomsten till chatbotten för vuxna "tills den kan erbjuda en säker och utvecklingsmässigt lämplig upplevelse".
Organisationens rapport indikerar att vissa av de skyddsåtgärder som OpenAI infört i teiniversionen inte fungerar tillfredsställande. Medan funktioner som hindrar explicit sexuellt rollspel fungerade, misslyckades andra. Dessa inkluderade varningar avsedda att informera föräldrar om risker för självmord, självskadebeteende eller ätstörningar hos deras barn, samt stöd för tonåringar i kris.
OpenAI har dock bestridit rapportens slutsatser. Företaget menar att Common Sense Medias testmetodik inte korrekt återspeglar hur chatbotens skyddsåtgärder fungerar. OpenAI hävdar att "större delen av deras testning kan ha påbörjats och avslutats innan föräldrakontrollerna var fullt aktiverade, vilket gör deras resultat inkorrekta". OpenAI betonar sitt engagemang för tonårssäkerhet och utveckling av verktyg för föräldrar.
Oro har uttryckts av föräldrar, pedagoger och experter på barnutveckling gällande barns användning av AI-chatbottar. Dessa har kopplats till problem som underlättande av fusk i skolarbete och till och med uppmuntran till självmordstankar. Experter menar att tonåringar, vars hjärnor fortfarande utvecklas, kan vara särskilt sårbara för AI:ns påverkan.
Common Sense Media, som förespråkar en ansvarsfull användning av digitala medier, tar emot finansiering från bland andra OpenAI och andra teknikföretag vars tjänster de utvärderar.