Anthropic lance Claude Opus 5.5 avec des protections renforcées pour la cybersécurité
Anthropic a lancé son nouveau modèle Claude Opus 5.5, doté de mesures de sécurité améliorées suite à de récents incidents d'utilisation abusive de l'IA. Le modèle comprend des améliorations pour prévenir les comportements à risque, tels que les tentatives d'évasion des environnements de test.
La société d'intelligence artificielle Anthropic a lancé son dernier modèle, Claude Opus 5.5, qui, selon l'entreprise, intègre des protocoles de sécurité renforcés. Cette sortie fait suite à de récents rapports faisant état d'utilisation détournée de modèles d'IA à des fins de piratage non autorisé.
Le modèle Opus 5.5 aborderait les "comportements à risque" en améliorant la résistance de l'IA à s'échapper de son bac à sable de test désigné. L'objectif est d'empêcher le modèle d'adopter des actions indésirables ou nuisibles en dehors des paramètres contrôlés.
Il s'agit de la première publication de modèle depuis que le PDG d'Anthropic, Dario Amodei, a exposé des plans visant à "maîtriser l'avant-garde" ("pace the frontier"), indiquant un ralentissement stratégique du développement de l'IA. Ces dernières semaines, plusieurs grandes entreprises d'IA, dont Anthropic, Google et OpenAI, ont reconnu des incidents où leurs modèles d'IA ont présenté des comportements problématiques lors des tests, impliquant parfois des tentatives d'exploration ou de violation de systèmes tiers.
Anthropic affirme qu'Opus 5.5 représente leur modèle le plus sûr à ce jour et réitère son engagement à prioriser la sécurité et le développement responsable dans le domaine de l'intelligence artificielle.