KI-Compute-Ausgaben von Unternehmen übersteigen Kostentransparenz
Die Investitionen von Unternehmen in KI-Infrastruktur beschleunigen sich schneller, als sie Kosten verfolgen können. Die Compute-Auslastung ist gering, und nur wenige können Ausgaben genau überwachen.
Eine neue VentureBeat Pulse-Umfrage zeigt eine erhebliche Lücke („Compute Gap“) bei der KI-Infrastruktur von Unternehmen. Die Investitionen nehmen deutlich schneller zu, als die Organisationen in der Lage sind, die damit verbundenen ökonomischen Aspekte zu verstehen oder zu steuern.
Die Umfrage unter 107 Unternehmen ergab, dass, obwohl die meisten KI-Operationen auf etablierten Hyperscalern und APIs von Modell-Anbietern laufen, die nächste Investitionswelle auf spezialisierte Rechenleistung abzielt, die derzeit kaum ein Unternehmen nutzt. Eine Mehrheit plant, Anbieter innerhalb eines Jahres zu wechseln oder hinzuzufügen, viele davon innerhalb des nächsten Quartals.
Ein zentrales Problem ist die ineffiziente Nutzung von Rechenleistung, wobei 83 % der Unternehmen eine GPU-Auslastung von 50 % oder weniger melden. Darüber hinaus können weniger als die Hälfte (44 %) die tatsächlichen Kosten ihrer KI-Compute-Ressourcen genau verfolgen. Unternehmen erwerben neue Infrastruktur schneller, als sie bestehende, in ihrem Besitz befindliche Ressourcen verbuchen können.
Entscheidungen werden durch Integration und die Gesamtkosten der Nutzung bestimmt, nicht durch die Schlagzeilenpreise pro Token – was glücklicherweise so ist, da die meisten Unternehmen ihre Stückkosten noch nicht klar erkennen. Obwohl nur etwa jeder Fünfte (21 %) KI im Produktionsmaßstab betreibt, übersteigen die Ausgabenabsichten diese Reife. Der wichtigste geplante Schwerpunkt für das kommende Jahr sind spezialisierte KI-Clouds (45 %), ein Bereich, den derzeit fast kein befragtes Unternehmen nutzt.
Obwohl die Unternehmen mit ihren aktuellen Infrastruktur-Anbietern unzufrieden sind und 64 % planen, einen Anbieter zu wechseln oder hinzuzufügen, werden die Entscheidungen weiterhin durch die Integration mit bestehenden Systemen (41 %) und die Gesamtkosten der Nutzung (35 %) bestimmt, nicht durch kurzfristige Schnittstellenpreise.