IBM-Studie: KI-Vorfälle erreichen Vorstände in EMEA-Unternehmen

Neue Forschungsergebnisse von IBM deuten darauf hin, dass KI-bezogene Vorfälle in den Vorständen von Unternehmen in Europa und im Nahen Osten zunehmen, die Governance-Fähigkeiten jedoch nicht mit der Adaption der Technologie Schritt halten.

Von den befragten Führungskräften gaben acht von zehn an, dass ein KI-bezogener Vorfall – wie z. B. ein Agentenausfall, Datenexposition oder Entscheidungsfehler – im letzten Jahr ihren Vorstand oder die Geschäftsleitung erreicht hat. Weniger als die Hälfte (40 %) dieser Organisationen hat jedoch in der Folge ihre Richtlinien oder Rahmenwerke für die KI-Governance geändert.

Wenn das Tempo der KI-Einführung die Bereitschaft der Governance übersteigt, gibt die Mehrheit (56 %) der befragten Führungskräfte an, innerhalb der vereinbarten Risikogrenzen weiterzumachen, anstatt auf die Anpassung der Governance zu warten. Nur ein Drittel verzögert die Einführung, bis die Governance vorbereitet ist.

Die Studie, an der über 3.200 Führungskräfte in acht Ländern Europas und des Nahen Ostens teilnahmen, legt nahe, dass die Governance-Richtlinien weiter auf die Probe gestellt werden, wenn KI-Agenten autonomere Aufgaben übernehmen. Drei Viertel erwarten, dass KI-Agenten bis 2027 ein gewisses Maß an Entscheidungsautonomie besitzen werden, doch nur 37 % verfügen über ein Governance-System, das für die Skalierung mit agentenbasierten KI-Implementierungen ausgelegt ist.

Darüber hinaus verfügt nur 37 % der Unternehmen über eine formelle, vom Vorstand geprüfte Quantifizierung der finanziellen Risiken, die sich aus Lücken in der KI-Governance ergeben. Obwohl fast alle Führungskräfte (98 %) die Verantwortung für KI-Risiken auf Vorstandsebene zugewiesen haben, bleibt ein klarer Konsens über die Rechenschaftspflicht für nachteilige KI-Ergebnisse ausstehend.