Anthropic optimise les mécanismes de sécurité biologique du modèle Claude Fable 5
L'entreprise d'IA Anthropic a mis à jour les fonctions de sécurité biologique de son modèle Claude Fable 5, réduisant les fausses interdictions de 85 %. Le modèle peut désormais traiter un éventail plus large de requêtes biologiques.
La société d'intelligence artificielle Anthropic a annoncé la mise à jour des mécanismes de sécurité biologique de son modèle Claude Fable 5. Ces changements visent à réduire considérablement les cas où le système bloque incorrectement des réponses, en particulier pour les requêtes liées à la biologie.
Selon les tests internes d'Anthropic, cette mise à jour a permis de diminuer de 85 % le taux de telles réponses "dégradées". Cette amélioration permet au modèle Fable 5 de traiter un éventail plus large de tâches biologiques qui étaient auparavant soumises à des protocoles de sécurité plus stricts.
L'entreprise avait précédemment mis en place des classificateurs de sécurité pour identifier et empêcher l'utilisation du modèle à des fins à haut risque, telles que la recherche sur les armes biologiques. Ces classificateurs étaient conçus pour détecter les demandes des utilisateurs susceptibles de générer du contenu nuisible ou d'impliquer des informations biologiques protégées.
Anthropic a désormais affiné le fonctionnement de ces classificateurs de sécurité pour mieux distinguer les requêtes bénignes des demandes réellement à haut risque. Cependant, le modèle continuera d'imposer des restrictions aux requêtes directement liées à la recherche biologique professionnelle et au développement de médicaments afin d'atténuer les risques continus liés à l'IA.