AI-chattbottar saknas i reglering av ungas säkerhet
Medan fler länder förbjuder unga från sociala medier, varnar experter för att AI-chattbottar utgör en ny, oreglerad risk, och att lagstiftningen hamnar på efterkälken.
Flera länder har under de senaste månaderna infört nationella förbud för tonåringar att använda sociala medier. Samtidigt ser man en ökande användning och beroende av AI-chattbottar bland unga, vilket påminner om problemen med sociala medier under 2010-talet. Experter inom digital säkerhet uttrycker oro över att lagstiftningen gällande barns säkerhet och AI-chattbottar fortfarande är bristfällig.
Cirka hälften av alla amerikanska tonåringar använder idag chattbottar som ChatGPT och Character.AI för studier, informationssökning eller som tidsfördriv, enligt Pew Research Center. Det finns en växande mängd bevis som tyder på att ungdomar använder chattbottar som en ersättning för verkliga vänskapsrelationer och uppvisar mönster relaterade till beroende.
Australien var först med att införa ett lagstadgat förbud för tonåringar på sociala medier i december, vilket har följts av liknande åtgärder i länder som Storbritannien, Spanien, Frankrike, Grekland och Kanada. Även på delstatsnivå i USA växer stödet för sådana förbud. Experter menar att lagstiftarna återigen hamnar på efterkälken.
"Det är rätt att vi använder sociala medier som en fallstudie för vad vi inte vill upprepa. Det är lite som, 'lura mig en gång, skam på dig; lura mig två gånger, skam på mig'", sa Kaitlyn Regehr, docent i digital humaniora vid University College London, till CNBC. Hon kritiserar regeringarna för att de spenderar år på att reglera sociala medier, bara för att sedan upprepa samma misstag genom att tillåta oprövade AI-produkter att nå barn.
Experter uppmanar till snabbare åtgärder för att reglera AI-teknik och säkerställa ungas digitala välbefinnande, innan liknande problem som med sociala medier uppstår.