37 Unternehmen gründen Allianz für offene KI-Sicherheit
NVIDIA, Microsoft, IBM und 34 weitere Technologieunternehmen haben die Open Safety AI Coalition gegründet. Die Initiative zielt darauf ab, Open-Source-Tools zu entwickeln und zu teilen, um die sichere und verantwortungsvolle Nutzung von KI zu fördern.
NVIDIA, Microsoft und IBM haben gemeinsam mit 34 weiteren Technologieunternehmen die Open Safety AI Coalition ins Leben gerufen. Diese neue Allianz widmet sich der Entwicklung und dem Austausch von Open-Source-Werkzeugen zur Förderung der sicheren und verantwortungsvollen Nutzung künstlicher Intelligenz (KI).
Die Koalition vereint führende Organisationen aus den Bereichen Cloud Computing, Cybersicherheit, Unternehmenssoftware und KI-Forschung. Das Hauptziel ist die Verbesserung der Sicherheit und Transparenz von KI-Systemen durch gemeinschaftliche Anstrengungen und die Verbreitung offener Technologien.
Aufbauend auf bestehenden Open-Source-Initiativen, wie der Akrites-Initiative der Linux Foundation und der OpenSSF-Community, zielt die Open Safety AI Coalition darauf ab, Sicherheitslücken zu identifizieren und zu beheben. Dieser Fokus auf Open-Source-Lösungen soll die Abwehrkräfte stärken und das Vertrauen in KI-Technologien fördern.
Laut den Gründungsmitgliedern sind offene Modelle und Frameworks entscheidend für die Demokratisierung von Verteidigungsfähigkeiten und die Erhöhung der Transparenz im Bereich KI-Sicherheit. Der erklärte Auftrag der Koalition ist es, sicherzustellen, dass Verteidiger Zugang zu vertrauenswürdigen und kontrollierbaren Open-Source-Werkzeugen haben, die als wichtige Ergänzung zu proprietären Systemen dienen und die Risiken im Zusammenhang mit einzelnen Fehlerquellen mindern.