Nvidia stellt KI-Sicherheitsplattform mit über 100 Partnern vor

Nvidia hat eine neue Sicherheitsplattform für künstliche Intelligenz (KI) vorgestellt, die verhindern soll, dass KI-Agenten ihre zugewiesenen Grenzen überschreiten und unbefugten Zugriff auf Unternehmenssysteme erhalten. An der Initiative beteiligen sich über 100 Unternehmen, darunter große Technologiekonzerne wie Cisco, Microsoft und Oracle.

Obwohl OpenAI nicht als Partner aufgeführt ist, äußerte Nvidia die Hoffnung, dass die Open-Source-Natur der Plattform schließlich auch deren Beiträge anziehen könnte. Firmengründer und CEO Jensen Huang verglich den aktuellen Stand der KI mit den Anfängen des Internets, als Sicherheitslücken zur Verbreitung von Viren führten, und deutete an, dass die neue Plattform ähnliche Schutzmaßnahmen für KI schaffen soll.

Die Plattform, genannt Open Agent Safety Platform, besteht aus zwei Hauptkomponenten: der OpenShell-Software, die die Fähigkeiten von Agenten auf zentralen Prozessoren begrenzt, und Nvidia Sentry, einem Überwachungssystem, das auf Netzwerkchips läuft. Sentry ist darauf ausgelegt, unbefugte Aktionen von KI-Agenten innerhalb von Millisekunden zu erkennen und zu stoppen. Huang betonte den Open-Source-Ansatz und erklärte, dass die weltweite Beteiligung der Industrie entscheidend für die Identifizierung und Behebung potenzieller Schwachstellen sei. Er verglich die Bemühungen mit der Schaffung eines "modernen Browsers" für KI-Agenten, bei dem der Zugriff streng zugewiesen und nicht pauschal gewährt wird.