KI-Agenten-Steuerung verlagert sich in die Datenebene

Wenn Unternehmen KI-Agenten mehr Autonomie gewähren – die Fähigkeit, Systeme zu planen, zu entscheiden und zu durchqueren, ohne menschliche Genehmigung für jeden Schritt –, wird die Frage, wie man eine unbefugte Aktion verhindert, zentral.

Unternehmen tragen die Verantwortung für die Handlungen ihrer Agenten. Diese Verantwortung kann nicht im Nachhinein oder durch abstrakte Richtlinien erfüllt werden. Agenten benötigen Regeln, die kontextbezogen und im Moment ausführbar sind, da ihnen eigenes Urteilsvermögen fehlt.

Anstatt sich ausschließlich auf Absperrungen um den Agenten zu verlassen, wie Anweisungen und Überwachung, sollte die Steuerung in der Datenebene eingebettet sein, wo Agenten ihre Arbeit verrichten. Eine Richtlinie, die den Zugriff auf eine Datenklasse einschränkt, ist nur dann sinnvoll, wenn das System den Zugriff zum Zeitpunkt der Anfrage verweigern kann.

Die Durchsetzung auf der Datenebene ist entscheidend, da das Verhalten von Agenten probabilistisch sein kann, während die Steuerung deterministisch sein muss. Mechanismen wie rollen- und attributbasierte Zugriffskontrolle, Zeilen- und Spaltensicherheit sowie Klassifizierung/Maskierung können direkt auf Daten angewendet werden. Die Identität von Agenten muss als eigenständiger Principal behandelt werden, mit einem deklarierten Zweck, der zu Beginn der Sitzung gebunden wird.

Das Ziel ist nicht, Agenten von nützlicher Arbeit abzuhalten, sondern ihre Grenzen zu definieren, was sie berühren können, was sie ändern können und wie Ereignisse rekonstruiert werden können. Steuerung auf der Datenebene, aufgebaut auf Open-Source-Grundlagen wie PostgreSQL, gibt Unternehmen die Kontrolle über den Datenspeicherort und die Durchsetzung von Richtlinien, was für regulierte Branchen entscheidend ist.