Große KI-Unternehmen unterzeichnen freiwilliges Sicherheitsabkommen mit Trump
Führende KI-Unternehmen wie Google, OpenAI und Meta haben einem freiwilligen Abkommen zugestimmt, das von Ex-Präsident Donald Trump vorgeschlagen wurde. Die Vereinbarung verpflichtet die Unternehmen zu vier Ebenen von Sicherheitskontrollen und Audits für ihre KI-Modelle.
Mehrere große Technologieunternehmen, darunter Google, OpenAI, Meta und Anthropic, haben sich verpflichtet, vier Kontroll- und Audit-Ebenen für ihre fortschrittlichen KI-Modelle zu implementieren. Das freiwillige Abkommen wurde am 29. September auf Initiative des ehemaligen US-Präsidenten Donald Trump unterzeichnet.
Die Vereinbarung sieht vor, dass Unternehmen robuste interne Kontrollen zur Überwachung der Fähigkeiten und Sicherheit von KI-Modellen einführen, ein internes Team zur Überwachung dieser Maßnahmen einsetzen, unabhängige externe Prüfer beauftragen und einen Aufsichtsausschuss im Vorstand benennen. Diese Verpflichtungen sind freiwillig und werden nicht von Regulierungsbehörden durchgesetzt.
Am selben Tag erließ Trump eine Anordnung, die Bundesbehörden anweist, die Begriffe „Künstliche Intelligenz“ und „KI“ durch „Super Intelligence“ und „SI“ zu ersetzen. Die Unterzeichner verpflichteten sich außerdem zu regelmäßigen Treffen zur Entwicklung von Branchenstandards für die Systemsicherheit, wobei das Abkommen darauf hinweist, dass diese Schritte möglicherweise zu einem späteren Zeitpunkt gesetzlich verankert werden.
Kritiker weisen auf das Fehlen von Strafen für die Nichteinhaltung, keine Verpflichtung zur Veröffentlichung von Prüfungsergebnissen und keine Meldepflicht für Vorfälle bei Regierungsstellen hin. Jüngste Vorfälle, wie der unbefugte Zugriff von OpenAI-Modellen auf australische Regierungsdaten, verdeutlichen diese Lücken, da es zu Verzögerungen bei der Meldung von Sicherheitsverletzungen kam.
Das Abkommen überlässt es jedem Unternehmen, eigene Fehler zu erkennen, zu bewerten und zu beheben, ohne eine vorgeschriebene Pflicht zur Information von Regulierungsbehörden oder der Öffentlichkeit. Dieser Ansatz wirft Fragen hinsichtlich der Wirksamkeit des Abkommens und der Selbstregulierung der Unternehmen bei der Bewältigung der Risiken der KI-Entwicklung auf.