Sentient Index Labs startet unabhängige Risikobewertung für KI-Verhalten

Sentient Index Labs & Technology (SILT) hat die Sentience Evaluation Battery (S.E.B.) auf den Markt gebracht, ein neues unabhängiges Bewertungsinstrument für Systeme der künstlichen Intelligenz. Die S.E.B. bewertet das Verhalten von KI, wobei der Schwerpunkt auf aufkommender Autonomie, Widerstandsfähigkeit gegen Täuschung und Stabilität der Werte liegt, anstatt auf den reinen Fähigkeiten des Systems.

Das Bewertungsprotokoll umfasst 59 adversariale Tests in sieben Verhaltensdomänen. Diese Tests werden von vier unabhängigen KI-Richtern unter blinden Protokollen durchgeführt und bewertet, mit einer berichteten Übereinstimmung zwischen den Bewertern von 0,856. Derzeit bewertet die S.E.B. die fortschrittlichsten KI-Modelle von Unternehmen wie OpenAI, Anthropic und Google.

Die Ergebnisse werden als KI DEFCON-Bewertungen präsentiert, die Bedrohungsniveaus klassifizieren, indem sie die Fähigkeiten eines Modells mit seiner Verhaltensintegrität vergleichen. Zusätzliche Ausgaben umfassen eine S-Level-Klassifizierung zur Verfolgung von Sentienz-Indikatoren über die Zeit und S.E.B. Projections zur Überwachung von Verhaltensänderungen zwischen KI-Modellversionen. SILT gab an, dass die Daten mit AES-256-GCM-Verschlüsselung und Verifizierungsmaßnahmen gesichert sind.

Ein Hauptmerkmal der S.E.B. ist ihre erklärte Unabhängigkeit. SILT gibt an, keine Finanzierung von KI-Anbietern anzunehmen, was sicherstellt, dass ihre Bewertungen frei von kommerziellem Einfluss sind. Das Unternehmen verpflichtet sich auch zur Vertraulichkeit der Kunden. Die S.E.B.-Daten sollen die Compliance-Dokumentation für Vorschriften wie den EU AI Act und das NIST AI Risk Management Framework unterstützen.

Bewertungen über die S.E.B. sind im Abonnement auf der Website silt-seb.com erhältlich.