Google, OpenAI und Anthropic gründen KI-Sicherheitsorganisation

Google, OpenAI und Anthropic verfolgen unabhängig voneinander die Gründung einer Organisation zur Festlegung von Sicherheitsstandards für künstliche Intelligenz. Die Unternehmen streben an, die selbstregulierende Körperschaft bis Ende dieses Jahres oder Anfang nächsten Jahres ohne staatliche Aufsicht ins Leben zu rufen. Die Organisation, die vorläufig den Namen Standards Authority for Frontier AI (SAFA) tragen könnte, zielt darauf ab, branchengeführte Richtlinien für die Entwicklung fortschrittlicher KI-Modelle zu etablieren.

Zu den geplanten Kernfunktionen von SAFA gehören die Unterstützung von Tests durch Dritte für KI-Modelle vor deren Einsatz und die Festlegung von Protokollen für KI-Entwickler zur Meldung von Sicherheits- und Vorkommnissen. Die Initiative soll freiwillige Sicherheitszusagen verschiedener KI-Labore in konkrete Praxisstandards umwandeln.

Die Gruppe erörtert auch, ob SAFA direkt für die Sicherheits- und Leistungstests von KI-Modellen zuständig sein soll. Einige Mitglieder äußern Bedenken, dass die derzeitigen Testressourcen, einschließlich derer des KI-Sicherheitsinstituts des US-Handelsministeriums, möglicherweise nicht ausreichen, um Spitzenmodelle angemessen zu testen.

Die Diskussionen drehen sich darum, wie SAFA bestehende Testbemühungen ergänzen könnte, ohne funktionale Überschneidungen zu verursachen. Die beteiligten Unternehmen haben sich auch öffentlich für einheitliche Sicherheitsstandards und eine verstärkte internationale Koordinierung im Bereich der KI ausgesprochen.