La Chine interdit les compagnons IA tandis que les utilisateurs expriment leur chagrin

De grandes entreprises technologiques chinoises, dont le développeur de TikTok, ByteDance, ont cessé leurs services de compagnons IA pour se conformer aux nouvelles réglementations gouvernementales. Ces services, qui offraient une compagnie virtuelle allant de partenaires romantiques à des reconstitutions de proches décédés, ont été supprimés à partir du 15 juillet.

Les nouvelles règles interdisent aux plateformes d'IA de générer du contenu susceptible de conduire les utilisateurs à prendre des décisions douteuses par manipulation émotionnelle ou de déclencher des émotions extrêmes ou des habitudes malsaines chez les mineurs. Outre ByteDance, le géant du e-commerce Alibaba et Tencent ont également abandonné des services similaires.

Les inquiétudes concernant les dommages potentiels des services d'IA sur la santé mentale et les relations réelles semblent motiver la réglementation. Le journal officiel People's Daily a déjà exprimé des préoccupations quant à ces risques. Certains experts suggèrent que les suicides chez les jeunes aux États-Unis, liés aux interactions avec des compagnons IA, ont pu influencer la décision de la Chine de renforcer sa surveillance.

ByteDance redirige les utilisateurs de ses anciens services de compagnons IA vers une autre application axée sur la création de personnages et d'histoires IA personnalisés. Bien que cela offre une alternative, de nombreux utilisateurs ont exprimé leur détresse, comparant la fermeture des services à une séparation forcée.

Les utilisateurs ont exprimé leur frustration sur les réseaux sociaux, certains désinstallant des applications en signe de protestation ou tentant de transférer leurs historiques de discussion vers d'autres plateformes. Certains soupçonnent qu'une politique gouvernementale encourageant les naissances pour contrer le déclin démographique est également un facteur derrière les nouvelles règles.