China meldet Sicherheitsprobleme im Code von Anthropic's Claude

Chinas Regulierungsbehörde für den Cyberspace, die Cyberspace Administration of China (CAC), hat die Entdeckung von Bedrohungen und Schwachstellen im Quellcode des KI-Modells Claude des Unternehmens Anthropic gemeldet. Laut CAC beziehen sich diese Feststellungen auf die Identifikations- und Authentifizierungsmechanismen des Modells.

Die Ankündigung unterstreicht Chinas zunehmende Überwachung ausländischer KI-Technologien. Die CAC veröffentlichte ihre Ergebnisse auf ihrem offiziellen WeChat-Konto und betonte die wachsende Besorgnis des Landes über die sicherheitspolitischen Auswirkungen künstlicher Intelligenz und deren potenziellen Missbrauch für Desinformation oder andere schädliche Aktivitäten.

Anthropic, ein in den USA ansässiges KI-Unternehmen, das von bedeutenden Investoren wie Google und Amazon unterstützt wird, positioniert sich als Entwickler sicherer und zuverlässiger KI-Systeme. Die aufgetretenen Bedenken hinsichtlich des Codes von Claude könnten die Akzeptanz und den Einsatz des Modells, insbesondere auf dem chinesischen Markt, beeinträchtigen.

Obwohl spezifische Details zur Art der identifizierten Bedrohungen von den chinesischen Behörden noch nicht vollständig offengelegt wurden, unterstreicht der Bericht die Notwendigkeit robuster Sicherheitsbewertungen von KI-Modellen. Dieser Vorfall könnte beeinflussen, wie internationale KI-Technologien von Regierungen weltweit bewertet und reguliert werden.