Trumps KI-Testrahmen schließt offene Modelle aus

Der Rahmen der Trump-Administration zur Bewertung potenzieller Cybersicherheitsrisiken durch fortschrittliche KI zeigt laut Berichten kein Interesse an der Prüfung offener Modelle. Axios berichtet, dass die freiwilligen Richtlinien nicht nur offene Modelle ausschließen – das heißt, jeder kann sie herunterladen und ihre Kernkomponenten inspizieren –, sondern auch ausdrücklich besagen, dass der Rahmen nicht zur Einschränkung offener Modelle nach deren Veröffentlichung verwendet werden kann.

Der KI-Testrahmen wurde nach einer von Präsident Trump im Juni unterzeichneten Anordnung geschaffen. Diese Anordnung forderte KI-Unternehmen auf, ihre Spitzenmodelle vor der Veröffentlichung mit der Bundesregierung zu teilen, um Cybersicherheitsbedenken auszuräumen. Ziel war es, den Bundesbehörden die Möglichkeit zu geben, potenzielle Risiken im Zusammenhang mit diesen leistungsstarken KI-Systemen vor dem breiten Einsatz zu bewerten.

Kritiker äußern Bedenken, dass der Ausschluss offener Modelle die Wirksamkeit des Rahmens untergraben könnte. Während offene Modelle Innovation und Zugänglichkeit fördern, können sie auch ein Einfallstor für Missbrauch sein, wenn sie nicht richtig geprüft werden. Das Auslassen dieser Modelle aus dem offiziellen Bewertungsverfahren kann Lücken in der Sicherheitsüberwachung schaffen.

Der Ansatz der Regierung scheint auf freiwilliger Zusammenarbeit mit Entwicklern für proprietäre Modelle zu beruhen, während die Regulierung von Open-Source-KI vermieden wird. Diese Strategie wirft Fragen auf, ob sie ausreichend ist, um die breiteren Sicherheitsimplikationen der sich rasant entwickelnden KI-Technologie zu bewältigen.