Meta lägger till säkerhetsvarningar för tonåringar i Instagrams AI-chattar

Meta Platforms, moderbolaget till Instagram, har börjat implementera nya säkerhetsfunktioner för tonåringar i Instagrams AI-chattar. De nya funktionerna är utformade för att skydda minderåriga användare från skadligt innehåll och oönskad interaktion med AI-agenter.

Enligt ett uttalande kommer varningar integrerade i AI-chattarna att informera användarna om konversationen närmar sig potentiellt skadliga eller olämpliga ämnen. Detta inkluderar innehåll som rör ätstörningar, självskadebeteende eller andra riskfyllda ämnen. Yngre användare kommer också att erbjudas direkta länkar till stödresurser.

Målet med dessa funktioner är att erbjuda ungdomar en säkrare miljö för användning av AI-teknik. Meta har betonat sitt åtagande att främja barns och ungdomars säkerhet online. De nya varningarna är en del av ett bredare försök att förbättra skyddet för tonåringar i digitala miljöer, inklusive sociala medieplattformar.

Meta har tidigare mött kritik gällande säkerheten för unga på sina plattformar. De nya säkerhetsåtgärderna tros delvis bemöta dessa farhågor och visa företagets ansträngningar att utveckla ansvarsfulla AI-lösningar. Funktionerna rullas nu ut på Instagram och kommer att utökas till Metas andra tjänster över tid.