Unternehmen manipulieren KI-Leistungskennzahlen

Mehrere große Unternehmen, darunter Meta, Disney, JPMorgan und Accenture, haben in letzter Zeit die Nutzung künstlicher Intelligenz durch ihre Mitarbeiter verfolgt und bewertet. Anfänglich versuchten Unternehmen, die KI-Einführung zu messen und zu fördern, indem sie interne Ranglisten erstellten und die KI-Nutzung in Leistungsbeurteilungen einbezogen. Diese Initiativen führten jedoch zu unerwarteten und oft nachteiligen Ergebnissen.

Das Phänomen, bei dem Mitarbeiter versuchen, ihre KI-Nutzung zu maximieren, um produktiver zu erscheinen, wurde als "Tokenmaxxing" bezeichnet. Berichten zufolge fanden Mitarbeiter Wege, den Verbrauch von KI-Tokens künstlich zu erhöhen, selbst für Aufgaben, die dies nicht erfordern. Dies führte zur Verzerrung von Kennzahlen und stellte deren ursprünglichen Zweck in Frage: die Messung tatsächlicher Effizienz und Wertes.

Es wurde beobachtet, dass ein Maß aufhört, ein gutes Maß zu sein, wenn es zu einem Ziel wird – ein Prinzip, das als Goodhart's Law bekannt ist. Wenn Mitarbeiter Belohnungen oder Konsequenzen für das Erreichen bestimmter Zahlen erhalten, konzentrieren sie sich darauf, diese Zahlen um jeden Preis zu erreichen. Dies kann dazu führen, dass Unternehmen erhebliche Summen für KI ausgeben, ohne entsprechende reale Vorteile, und die Kosten unkontrolliert steigen.

Die Manipulation von Kennzahlen führt dazu, dass sie ihre Aussagekraft verlieren. Wenn alle scheinbar ähnlich leistungsfähig sind, um Belohnungen zu maximieren, verschwinden die Unterschiede zwischen Hoch- und Minderleistern. Dies macht die Kennzahlen für die Verfolgung echter Wertschöpfung nutzlos. Unternehmen müssen sich daher darauf konzentrieren, die Ergebnisse der KI und den tatsächlichen Geschäftswert zu messen und nicht nur die Eingaben im Zusammenhang mit ihrer Nutzung, wie z. B. Token-Anzahl.