KI-Fehler decken schwindende menschliche Fähigkeiten auf
Mit zunehmender Verbreitung von KI verschiebt sich die Rolle von Mitarbeitern zur Überwachung, was die Eingriffskompetenz schwächen kann. Dies birgt ein latentes Risiko für Organisationen.
Wenn KI-Systeme über lange Zeiträume hinweg zuverlässig funktionieren, kann sich die Rolle der menschlichen Aufsicht verändern. Forschungen deuten darauf hin, dass menschliche Fähigkeiten für unabhängiges Urteilsvermögen und Eingriffe abnehmen können, selbst wenn die KI hervorragende Leistungen erbringt.
Dieses Phänomen, als "latentes Risiko" bezeichnet, tritt auf, wenn eine Organisation weiterhin auf menschliches Eingreifen angewiesen ist, aber nicht bemerkt, dass diese Fähigkeit möglicherweise nachlässt. Während die Einführung von KI die Effizienz steigern kann, reduziert sie möglicherweise die Gelegenheiten für Menschen, kritische Entscheidungen zu treffen.
Das Problem baut auf bestehender Automationsforschung auf, doch die wachsende Rolle der KI in Analyse und Entscheidungsfindung stellt eine moderne Herausforderung dar. Diese Verschiebung verwandelt Arbeitsplätze von der Aufgabenausführung zur Systemüberwachung.
Beispielsweise gestaltet die Wirtschaftsprüfungsgesellschaft Deloitte ihre Schulungen neu, da KI routinemäßige Aufgaben übernimmt. Ziel ist es sicherzustellen, dass Junior-Auditoren ihre Urteilsfähigkeit beibehalten. Dies wirft jedoch Fragen zur Rechenschaftspflicht auf, wenn die KI Fehler macht und die menschliche Eingriffskompetenz nachgelassen hat.