Box: KI-Agenten-Sicherheit benötigt mehr als nur Berechtigungen

Die Sicherheit von KI-Agenten in Unternehmen muss sich über traditionelle Berechtigungssysteme hinaus zu einem umfassenderen Modell entwickeln, das das Verhalten steuert, so Heather Ceylan, Chief Information Security Officer bei Box.

KI-Agenten agieren anders als Menschen. Während Berechtigungen definieren, worauf ein Agent zugreifen kann, schränken sie seine Handlungen nicht ein, sobald er autonom zu arbeiten beginnt. Ein autonomer Agent kann legitimen Zugriff auf Unternehmensdaten schnell in unbeabsichtigte Aktionen umwandeln, was erhebliche Sicherheitsrisiken birgt.

"Zugriffskontrollen und Berechtigungen sind die Grundlage, aber die Herausforderung besteht darin, dass sie für Menschen konzipiert wurden", erklärt Ceylan. "Berechtigungen müssen sich ändern, je nachdem, was vom Agenten verlangt wurde und wann er handeln muss." Sie betont, dass, wenn ein Agent eine Aufgabe ausführt und nur bestimmte Werkzeuge benötigt, seine Berechtigungen auf diese beschränkt werden sollten.

Box schlägt ein dreistufiges Modell für die Genehmigung von KI-Aktionen vor: vollständig autonome Aktionen, überwachte Aktionen und Aktionen mit hohem Risiko, die eine menschliche Genehmigung erfordern. Dies hilft bei der Risikosteuerung und stellt sicher, dass die Aktionen der Agenten innerhalb definierter Grenzen bleiben. Veraltete Inhaltsplattformen sind ebenfalls nicht für die Anforderungen von KI-Agenten gerüstet, da ihre Metadaten und Protokolle unzureichend sind.