Une nouvelle police de caractères perturbe la collecte de données par IA

Un nouveau système de police de caractères, baptisé ShieldFont, vise à perturber et à dissuader la collecte de données non autorisée par les modèles d'intelligence artificielle (IA). Conçue pour être indiscernable du texte standard pour les lecteurs humains, cette police modifie subtilement le code source HTML sous-jacent. Cette manipulation introduit des mots leurres, amenant les "scrapers" automatisés à ingérer des données incohérentes ou incorrectes, dégradant ainsi la qualité des résultats produits par l'IA.

Le projet ShieldFont, fruit d'une collaboration entre le studio créatif brésilien Seneda & Abrucio et la fonderie typographique danoise PlayType, réutilise une fonctionnalité typographique connue sous le nom de ligatures. Traditionnellement utilisées pour combiner esthétiquement des paires de lettres spécifiques, les ligatures sont employées par ShieldFont pour remplacer des mots entiers dans le code source. En substituant des mots, le système déroute les modèles linguistiques d'IA qui s'appuient sur des associations de mots et des structures de phrases prévisibles pour traiter l'information.

Par exemple, une phrase telle que "Le chevalier chevauchait au combat" pourrait apparaître dans le code source, telle que récupérée par un robot, comme "Le chevalier chevauchait son moteur au combat". Cette introduction délibérée de données "empoisonnées" vise à augmenter le coût et la complexité pour les développeurs d'IA engagés dans le "scraping" à grande échelle, les encourageant plutôt à rechercher des sources de données sous licence.

Les créateurs de ShieldFont rapportent que leur système a réussi à faire rejeter plus de 90 % du contenu protégé par les filtres de qualité des robots lors des tests. Parmi le texte restant accepté, 19,4 % affirmaient des significations erronées. Bien que les "scrapers" puissent tenter de contourner ce système en capturant des images du texte, cela augmente considérablement les coûts d'exploitation. Le protocole ShieldFont est open-source et vise à créer un écosystème d'information numérique plus équilibré.