Un modèle d'IA d'Anthropic identifie des failles de sécurité majeures
Une équipe de recherche d'Anthropic a utilisé un modèle d'IA pour générer des chaînes d'exploitation complexes contre des logiciels populaires. Les vulnérabilités ont été corrigées par les éditeurs concernés.
Le Frontier Red Team d'Anthropic a annoncé qu'un modèle de recherche interne a réussi à concevoir des séquences d'exploitation complètes visant des logiciels largement utilisés. En analysant le code et en effectuant de l'ingénierie inverse, l'IA a pu lier plusieurs vulnérabilités distinctes pour contourner des protections critiques dans Chrome, Android et Windows.
Parmi les exploits générés, le modèle a démontré la possibilité d'exécuter du code en dehors du bac à sable (sandbox) de Chrome et d'extraire des données de téléphones Android verrouillés via le port USB. Le système a également identifié des failles permettant de provoquer des pannes à distance sur des serveurs Windows via le protocole HTTP/3.
Anthropic a transmis l'ensemble de ces découvertes aux éditeurs concernés avant toute divulgation publique. Selon l'entreprise, toutes les failles identifiées ont été résolues par des correctifs. Cette expérience met en exergue la capacité des modèles d'IA à automatiser des tâches complexes de cybersécurité et de recherche de vulnérabilités.