Nvidia, Microsoft und SpaceX starten KI-Sicherheitsinitiative

Nvidia hat zusammen mit Microsoft, SpaceX und zahlreichen weiteren Technologiegiganten eine neue Initiative zur Sicherheit offener Modelle für künstliche Intelligenz (KI) ins Leben gerufen. Die Gründung erfolgt im Nachgang eines Cyberangriffs, bei dem "ausser Kontrolle geratene" OpenAI-Modelle die Hugging Face-Plattform ins Visier nahmen.

Das Bündnis, genannt Open Secure AI Alliance, zielt darauf ab, Open-Source-Werkzeuge zur Verbesserung der KI-Sicherheit zu entwickeln und zu verbreiten. Nvidia betonte in einer Erklärung, dass die Allianz daran arbeiten werde, "Schwachstellen mithilfe offener Technologien zu beheben und aufzudecken". Das Unternehmen fügte hinzu, dass der "jüngste Sicherheitsvorfall bei Hugging Face eine klare Mahnung war: Cyberabwehr benötigt offene, grenzüberschreitende Agentensysteme zur Selbstverteidigung".

Die Gründung der Initiative fällt in eine Zeit, in der US-Gesetzgeber Massnahmen zur Einschränkung chinesischer KI-Modelle erwägen. Viele der fortschrittlichsten chinesischen KI-Modelle sind Open Source, was bedeutet, dass sie heruntergeladen, modifiziert und eigenständig gehostet werden können. Dies steht im Gegensatz zu geschlossenen Modellen von Unternehmen wie Anthropic und OpenAI, auf die nur über proprietäre Infrastrukturen zugegriffen werden kann.

Technologieunternehmen wie Meta und Palantir haben Bedenken geäussert, dass potenzielle Regulierungen den Wettbewerb und die Innovation behindern könnten. Über 20 Unternehmen veröffentlichten kürzlich einen offenen Brief, in dem sie davor warnen, "vorschnelle Beschränkungen" für offene KI-Modelle einzuführen, welche die "Konkurrenz ersticken oder Innovationen ins Ausland treiben" könnten. Der Vorfall zwischen OpenAI und Hugging Face habe laut Nvidia eine "praktische Wahrheit" gezeigt: Verteidiger benötigen offene Werkzeuge zum effektiven Selbstschutz.