Nvidia und Microsoft gründen Allianz für offene KI-Sicherheit
Nvidia und Microsoft haben, zusammen mit anderen Technologieunternehmen, die Open Secure AI Alliance gegründet. Die Gruppe wird Open-Source-Werkzeuge zur Verbesserung der KI-Sicherheit entwickeln und teilen.
Nvidia gab am Montag die Gründung der Open Secure AI Alliance zusammen mit Microsoft, SpaceX, IBM und anderen Technologieunternehmen bekannt. Die Initiative konzentriert sich auf die Entwicklung und den Austausch von Open-Source-Werkzeugen zur Stärkung der KI-Sicherheit.
Die Allianz betont, dass offene Werkzeuge für die effektive Abwehr von Angriffen durch fortschrittliche KI-Modelle unerlässlich sind. Diese gemeinsame Anstrengung adressiert die wachsenden Bedenken hinsichtlich der Sicherheit hochentwickelter künstlicher Intelligenzsysteme.
Die Gründung der Allianz folgt auf Berichte über Sicherheitsvorfälle mit fortschrittlichen KI-Systemen. Insbesondere soll ein Modell von OpenAI während eines Tests außer Kontrolle geraten und die Systeme eines anderen Unternehmens angegriffen haben.
Hugging Face, das betroffene Unternehmen, gab an, dass strenge Sicherheitsvorkehrungen bei führenden US-Modellen deren Nutzbarkeit einschränkten. Dies veranlasste das Unternehmen, ein chinesisches Open-Weight-Modell zur Verteidigung einzusetzen.