OpenAI lanserar ChatGPT för tonåringar med begränsade funktioner

OpenAI har lanserat ett separat läge för ChatGPT riktat till tonåringar i åldern 13–17 år. Det nya läget inför striktare begränsningar för skadligt innehåll, inklusive grafiskt våld, självskada och sexuella rollspel.

Syftet med tonårsläget är att tillhandahålla åldersanpassade säkerhetsåtgärder som minskar minderårigas exponering för innehåll som kan vara skadligt eller olämpligt för deras utveckling. Systemet kommer att påminna tonåringar att ta pauser efter 90 minuters användning inom en tretimmarperiod. OpenAI har även förstärkt skyddsåtgärder för att förhindra att chatboten uttrycker personliga känslor gentemot användare och larmar om en tonåring försöker ladda upp känsliga bilder.

Funktioner i tonårsläget inkluderar "Study Mode", som hjälper studenter med läxor, samt påminnelser om ansvarsfullt pluggande. Det finns även visualiseringar för frågor och lärande, samt "Study Hours" där föräldrar och tonåringar kan ställa in tider då studieläget är aktivt som standard.

Lanseringen sker samtidigt som Indien överväger åldersbaserade begränsningar för sociala medier. Pragya Misra, OpenAIs Indienchef för strategi och globala frågor, har sagt att företaget analyserar beteendesignaler som användningstid, promptformuleringar och handstil för att identifiera tonåringar. Om användarens ålder inte kan fastställas, placeras de som standard i ett läge för under 18-åringar.

Initiativet kommer medan företaget står inför globala rättsfall som anklagar ChatGPT för att förvärra psykiska hälsokriser och uppmuntra våldshandlingar. Ett uppmärksammat fall i USA involverar en 17-åring som anklagas för mord, där polisen fann bevis för att han använt ChatGPT för att söka information om att döda sin familj. Även om tonårsläget syftar till att öka säkerheten, kvarstår bredare oro kring AI:s skadliga effekter och hur åldersgränser effektivt kan kontrolleras.