Xiaomi : deux internautes arrêtés pour des fausses vidéos d'accidents générées par IA

L'entreprise technologique chinoise Xiaomi a annoncé mardi que les autorités ont arrêté et condamné à une amende deux internautes pour avoir créé et diffusé de fausses vidéos d'accidents de voiture à l'aide de l'intelligence artificielle (IA). Ces vidéos contenaient des informations trompeuses sur les produits automobiles de l'entreprise et insultaient ses dirigeants.

Un premier utilisateur, identifié sous le nom de « 旧**口 », a été condamné à sept jours de détention administrative et à la suppression de tous les liens contrefaits. Il a été constaté que cette personne utilisait systématiquement l'IA pour générer de fausses vidéos d'accidents, nuisant ainsi à la réputation des produits automobiles de Xiaomi et insultant la direction de l'entreprise.

Un deuxième utilisateur, « 花**车 », a reçu une amende administrative et a été sommé de supprimer tous les liens préjudiciables pour avoir créé des vidéos similaires générées par IA qui ont terni l'image de marque de Xiaomi. Xiaomi a exprimé sa gratitude à la police pour son application impartiale de la loi et a souligné qu'Internet n'est pas un territoire sans loi.

L'entreprise a déclaré qu'elle continuerait à utiliser des moyens légaux pour lutter contre les abus de l'IA, en particulier dans les cas de fabrication et de diffusion de fausses vidéos portant atteinte à la réputation de l'entreprise. Xiaomi a encouragé le public à se joindre à la lutte contre les rumeurs en ligne et à maintenir un cyberespace clair et ordonné.

Xu Jieyun, vice-président du marketing stratégique de Xiaomi, a commenté l'affaire : « L'IA est une bonne technologie, mais elle ne doit pas être mal utilisée. En particulier, ne pas utiliser l'IA pour propager des rumeurs entraînera des conséquences. »