Kina förbjuder AI-kompisar medan användare sörjer

Stora kinesiska teknikföretag, inklusive TikTok-utvecklaren ByteDance, har stängt ner sina AI-kompanjonstjänster för att följa nya statliga regleringar. Dessa tjänster, som erbjöd virtuellt sällskap från romantiska partners till imitationer av avlidna nära och kära, upphörde den 15 juli.

De nya reglerna förbjuder AI-plattformar från att generera innehåll som kan leda användare till att fatta tvivelaktiga beslut genom manipulation av deras känslor, eller som kan utlösa extrema känslor eller ohälsosamma vanor hos barn och unga. Förutom ByteDance har även Alibaba och Tencent lagt ner liknande tjänster.

Bakom regleringarna finns oro för potentiella skador på mental hälsa och verkliga relationer som AI-tjänsterna kan orsaka. Den officiella tidningen People's Daily har tidigare uttryckt oro över dessa risker. Enligt vissa experter kan självmord bland unga i USA efter interaktion med AI-kompanjoner ha påverkat Kinas beslut att skärpa regelverket.

ByteDance hänvisar användare av sina tidigare AI-kompanjonstjänster till en annan app som fokuserar på att skapa personliga AI-karaktärer och berättelser. Även om detta erbjuder ett alternativ, uttrycker många användare besvikelse och jämför nedläggningen av tjänsterna med en påtvingad separation.

Användare har uttryckt frustration på sociala medier, där vissa i protest har avinstallerat appar eller försökt överföra sina chatthistoriker till andra tjänster. Vissa misstänker att en drivande faktor bakom regleringen är regeringens policy att uppmuntra till fler födslar för att motverka en minskande befolkning.