Globale Finanzaufsicht fordert stärkere menschliche Überwachung von KI-Agenten

Der Finanzstabilitätsrat (FSB), das internationale Gremium zur Festlegung globaler Standards für die Finanzregulierung, hat Banken und andere Unternehmen aufgefordert, die menschliche Aufsicht über Agenten künstlicher Intelligenz (KI) zu verstärken. Diese Forderung ist in der endgültigen Leitlinie zum Management von KI-Risiken enthalten.

Die Richtlinien des FSB erscheinen zu einer Zeit, in der Aufsichtsbehörden weltweit ihre Bemühungen zur Minderung von KI-bedingten Risiken intensivieren, einschließlich der Bedrohungen durch KI-gesteuerte Cyberangriffe. Ein früherer Entwurf vom Juni hatte die Vorstände von Finanzinstituten nachdrücklich aufgefordert, die Empfehlungen zu berücksichtigen, und davor gewarnt, dass KI-Agenten Aufgaben autonom mit begrenzter menschlicher Aufsicht planen und ausführen könnten, was besondere Herausforderungen mit sich bringt.

Basierend auf dem erhaltenen Feedback und unter Berücksichtigung der zunehmenden Einführung von KI-Agenten durch Finanzinstitute sowie der inhärenten Risiken und Kontrollanforderungen der Technologie, verstärkt die endgültige Richtlinie die Empfehlungen zur Überwachung. Sie betont, dass eine verstärkte menschliche Aufsicht für KI-Anwendungen mit höherem Risiko von entscheidender Bedeutung ist. Unternehmen müssen auch, basierend auf den Risikostufen, definieren, wann KI-Agenten eine menschliche Genehmigung benötigen, bevor sie Aufgaben fortsetzen.

Der FSB hat auch einen früheren Vorschlag entfernt, dass Finanzinstitute KI als „virtuellen Mitarbeiter“ behandeln sollten. Stattdessen wird betont, dass Unternehmen erkennen müssen, dass KI-Agenten nicht wie Menschen denken und voreingestellte Ziele auf unerwartete Weise interpretieren können.