Rillion: Finanzteams fordern Transparenz und messbare Ergebnisse von KI
Ein Bericht von Rillion zeigt, dass Finanzexperten KI nur dann vertrauen, wenn deren Entscheidungsfindung nachvollziehbar und die Leistung messbar ist.
Die Nutzung künstlicher Intelligenz (KI) im Finanzsektor beschleunigt sich rasant, wobei Automatisierungs- und maschinelle Lernwerkzeuge versprechen, manuelle Arbeiten zu reduzieren und beispiellose Einblicke zu ermöglichen. Laut einem neuen Bericht von Rillions Finance Labs zeichnet sich jedoch eine zentrale Spannung ab: Vertrauen in KI kann nicht als selbstverständlich vorausgesetzt werden.
Finanzteams werden zunehmend gebeten, kritische Prozesse – von der Rechnungskodierung bis zur Prognoseerstellung – an Systeme zu delegieren, die wie eine „Black Box“ funktionieren. Ohne Transparenz bei der KI-gesteuerten Entscheidungsfindung zögern Führungskräfte, sich vollständig auf die Automatisierung zu verlassen. Der Bericht betont, dass Vertrauen auf Transparenz, messbarer Leistung und sinnvoller Aufsicht aufgebaut wird.
Basierend auf einer Umfrage unter mehr als 100 US-Finanzführungskräften ergab die Studie, dass Transparenz eine nicht verhandelbare Grundlage für Vertrauen darstellt. Fast jeder Befragte zeigte Bedenken bei der Nutzung von KI für Aufgaben wie Rechnungsverarbeitung oder Prognosen, wenn die Entscheidungsfindung nicht erklärt werden kann. Eine signifikante Gruppe (47,6 %) fordert vollständige Prüfbarkeit jeder Entscheidung, während weitere 40 % grundlegende Erklärungen für wichtige Ergebnisse als ausreichend erachten.
„Für Finanzmanager beginnt das Vertrauen in KI mit Transparenz. Wenn wir nicht klar verstehen, wie eine KI zu ihren Entscheidungen kommt, ist es schwierig, sich auf sie für eine kritische Aufgabe wie Rechnungsverarbeitung oder Prognosen zu verlassen“, sagte Kristian Gylling, CFO bei Rillion. Er betonte die Bedeutung einer starken Governance für neue KI-Tools, die jedoch mit der Freiheit für Teams zum Experimentieren in Einklang gebracht werden müsse.
Über die Transparenz hinaus sind messbare Ergebnisse entscheidend für den Aufbau von Vertrauen. Die Umfragedaten zeigen, dass über 40 % der Finanzführungskräfte bereits Key Performance Indicators (KPIs) zur Bewertung der KI-Leistung definiert haben, einschließlich Genauigkeit bei der Rechnungskodierung,grad der manipulationsfreien Transaktionen und Zeiteinsparungen. Dieser Messansatz ist entscheidend für die Überprüfung des ROI und die Sicherstellung der Compliance bei Audits.