Anthropic verbessert biologische Sicherheitsfunktionen des Claude Fable 5 Modells
Das KI-Unternehmen Anthropic hat die biologischen Sicherheitsfunktionen seines Claude Fable 5 Modells aktualisiert. Die Änderungen reduzieren Fehlalarme um 85 % und ermöglichen die Bearbeitung eines breiteren Spektrums biologischer Anfragen.
Das Unternehmen Anthropic hat bekannt gegeben, dass die biologischen Sicherheitsmechanismen seines Claude Fable 5 Modells aktualisiert wurden. Ziel ist es, die Anzahl der fälschlicherweise blockierten Antworten, insbesondere bei biologischen Fragestellungen, deutlich zu reduzieren.
Laut internen Tests von Anthropic ist die Anzahl der "degradierten" Antworten in diesem Kontext um 85 % gesunken. Diese Verbesserung ermöglicht es dem Fable 5 Modell, ein breiteres Spektrum biologischer Aufgaben zu bearbeiten, die zuvor strengeren Sicherheitsvorkehrungen unterlagen.
Das Unternehmen hatte zuvor Sicherheitsklassifikatoren implementiert, um die Nutzung des Modells für Hochrisikoaktivitäten, wie die Erforschung von Biowaffen, zu verhindern. Diese Klassifikatoren sollten Nutzeranfragen erkennen, die zur Generierung schädlicher Inhalte oder zur Handhabung geschützter biologischer Informationen führen könnten.
Anthropic hat nun die Funktionsweise dieser Sicherheitsklassifikatoren verfeinert, um harmlose Anfragen besser von tatsächlich risikoreichen Anfragen unterscheiden zu können. Dennoch wird das Modell weiterhin Anfragen einschränken, die sich direkt auf professionelle biologische Forschung und Medikamentenentwicklung beziehen, um fortlaufende KI-Risiken zu mindern.