KI-Sicherheitsprüfer rücken ins Rampenlicht

Eine kleine Gruppe unabhängiger Prüfer hat eine zentrale Rolle in der künstliche Intelligenz-Industrie eingenommen, die einen Wert von mehreren Billionen Dollar hat. Organisationen wie METR und Transluce werden zunehmend aufgefordert, KI-Modelle zu überwachen und zu bewerten, insbesondere da die staatliche Regulierung hinterherhinkt.

Diese Prüfer, die oft als Non-Profit-Organisationen agieren, etablieren sich in einer Branche, die von schnellen Kapitalflüssen und rasanter Modellentwicklung geprägt ist. Ihre Hauptaufgabe ist die Bewertung von KI-Fähigkeiten und -Risiken sowie die Aufdeckung problematischer Verhaltensweisen der Technologie. Ihre Bedeutung wird durch die Tatsache verstärkt, dass führende KI-Unternehmen wie Anthropic und OpenAI externe Bestätigung für die Sicherheit ihrer Modelle suchen.

Sowohl Anthropic-CEO Dario Amodei als auch die Führung von OpenAI haben die Einbeziehung unabhängiger Prüfer befürwortet. Auch Präsident Donald Trump hat die Unternehmen ermutigt, im Rahmen einer freiwilligen Vereinbarung mit externen Prüfern zusammenzuarbeiten. Offen sind jedoch wesentliche Fragen zur Finanzierung, zum Zugang zu Daten und zu den Berichtsstrukturen.

Experten wie Suresh Venkatasubramanian, Professor für Informatik an der Brown University, haben Bedenken hinsichtlich der finanziellen Tragfähigkeit geäußert. Er betonte die Notwendigkeit nachhaltiger Geschäftsmodelle, um diese Organisationen zu unterstützen und ein funktionierendes Ökosystem für die Bewertung der KI-Sicherheit zu gewährleisten.