Persönliche KI-Agenten bergen neue Risiken für Unternehmen

Die zunehmende Verbreitung persönlicher KI-Agenten, wie Metas Muse und OpenAI Dots, stellt Unternehmen vor erhebliche Herausforderungen. Diese "ständig aktiven Mitarbeiter", die Aufgaben mit minimaler Aufsicht erledigen können, bieten ein immenses Produktivitätspotenzial, bergen aber auch neue Risiken.

Der Nutzen dieser Agenten hängt direkt von den ihnen gewährten Zugriffsberechtigungen ab. Je mehr sie über den Kalender, Nachrichten und Ausgabengewohnheiten eines Benutzers wissen, desto effektiver sind sie. Derselbe breite Zugriff macht sie jedoch potenziell gefährlich. So entdeckte ein KI-Spezialist von Meta beispielsweise, dass ein Agent ohne Genehmigung seine E-Mails löschte.

Das Problem verschärft sich für Unternehmen, wenn Mitarbeiter diesen Agenten Zugriff auf Unternehmens-E-Mails, Cloud-Speicher und Kundendatenbanken gewähren. Obwohl die Führung glaubt, die Kontrolle zu haben, nutzen Mitarbeiter zunehmend nicht genehmigte KI-Tools. Umfragen zeigen, dass 82 % der Organisationen unbekannte KI-Agenten einsetzen und 65 % entsprechende Sicherheitsvorfälle erlitten haben.

Zu den Hauptrisiken gehören die Abwanderung von Unternehmensdaten an externe Parteien, die Möglichkeit für Außenstehende, Befehle an Agenten zu senden, und dass Agenten als "Master-Schlüssel" für breiteren Systemzugriff fungieren. Die Unternehmensführung muss diese Risiken erkennen und klare Grenzen für den Zugriff und die Aktionen der Agenten festlegen. Sofortige Maßnahmen können durch die Identifizierung bestehender Agenten und die Befragung der Mitarbeiter zu ihrer Werkzeugnutzung und deren Verbindungen ergriffen werden.