Accès aux modèles d'IA vendus à prix réduit sur le dark web

Des modèles d'IA et de la puissance de calcul acquis illégalement émergent rapidement comme des marchandises très recherchées sur le marché noir de la cybercriminalité. Les criminels ont l'intention d'exploiter les grands modèles linguistiques coûteux à des fins d'extorsion, de cyberguerre et d'espionnage.

L'équipe de renseignement sur les menaces de Google a observé une augmentation significative des activités dites de « détournement de LLM » cette année. Celles-ci se manifestent par la revente d'identifiants de connexion volés pour des outils d'IA publics, ainsi que par l'utilisation illicite par certains groupes de la puissance de calcul d'autrui pour exécuter gratuitement leurs propres modèles.

Selon les recherches de l'unité de renseignement sur les menaces de Google, les marchés du dark web vendent l'accès à des modèles d'IA d'entreprises telles qu'Anthropic, Google et OpenAI avec des remises allant jusqu'à 97 %. Ceci contraste avec les niveaux d'abonnement les plus élevés pour des services comme ChatGPT et Claude, qui peuvent coûter jusqu'à 200 dollars par utilisateur et par mois.

Certains vendeurs proposent des services d'« accès garanti », promettant de fournir de nouveaux identifiants sans frais supplémentaires si le compte initial est banni. De plus, des groupes criminels et des acteurs soutenus par des États infiltrent les serveurs cloud des entreprises pour y installer leurs propres modèles d'IA, utilisant les systèmes de la victime pour les exécuter, de manière similaire à la façon dont ils exploitent les appareils tiers pour l'extraction de cryptomonnaies.