Un créateur de mode conçoit des chemises pour tromper la surveillance par IA

Le créateur de mode allemand Simon Weckert a conçu une chemise nommée Digital Camouflage, destinée à tromper les systèmes de surveillance basés sur l'IA. La chemise présente un motif abstrait et coloré, conçu pour rendre difficile l'identification du porteur par les machines.

Selon Weckert, les systèmes d'IA détectent les images en analysant des motifs statistiques tels que les contours, les textures et les combinaisons de couleurs qu'ils ont appris à associer à l'identification d'une personne. Le motif utilisé dans la chemise est mathématiquement optimisé pour envoyer des signaux incorrects à ces systèmes de reconnaissance basés sur le réseau.

Le vêtement vise à trouver un équilibre entre les exigences de l'IA et les sensibilités esthétiques humaines. Weckert note que les motifs purement dérivés de manière algorithmique peuvent être visuellement chaotiques. Le motif final est donc un compromis, s'adressant simultanément aux machines et aux humains, qui le perçoivent différemment.

Le designer a testé le motif avec le système open-source YOLO (You Only Look Once), qui utilise une technologie similaire à celle de nombreux produits de surveillance commerciaux. L'objectif de Weckert n'est pas de vaincre un système de surveillance spécifique, mais plutôt de remettre en question la fiabilité de ces technologies. Il souligne que le but de la chemise est de démontrer une vulnérabilité structurelle dans cette catégorie de technologie, et non d'invalider des produits individuels.