Unternehmen setzen auf KI-Rechenleistung für Geschwindigkeit, ignorieren aber Kosten

Eine aktuelle Umfrage zeigt, dass zwei Drittel der Unternehmen KI-Workloads in der Produktion betreiben, wobei fast 30 % diese im großen Maßstab nutzen. Gleichzeitig ist die Fähigkeit der Unternehmen, die Kosten für ihre KI-Recheninfrastruktur genau zu verfolgen, nicht mit der Entwicklung Schritt gehalten.

Traditionell waren Kosten ein entscheidender Faktor bei Kaufentscheidungen. Bei KI verschiebt sich dies jedoch. Geschwindigkeit und Verfügbarkeit sind wichtiger geworden als die Gesamtkosten (TCO), und Zuverlässigkeit wird nun über den Preis als Erfolgsmaßstab gestellt. Diese Neupriorisierung ist wahrscheinlich auf den Druck zurückzuführen, KI-Lösungen effektiv in Produktionsumgebungen einzusetzen, wirft aber eine unbequeme Realität auf: Weniger als die Hälfte der Unternehmen kann ihre KI-Rechenkosten rigoros verfolgen.

Die meisten eingesetzten GPU-Beschleuniger arbeiten mit 50 % Kapazität oder weniger, und zukünftige Investitionen zielen auf spezialisierte Clouds ab, die derzeit nur begrenzt genutzt werden. Zu den führenden Plattformen gehören OpenAI, Google Gemini und Microsoft Azure, wobei Azure für 26 % der Befragten die primäre Plattform darstellt.

Geplante Investitionen zeigen ein starkes Interesse an spezialisierten KI-Cloud-Umgebungen, trotz geringer aktueller Nutzung. Auch Nicht-Nvidia-Beschleuniger gewinnen an Bedeutung. Viele Unternehmen beabsichtigen, Anbieter innerhalb des nächsten Jahres hinzuzufügen oder zu wechseln, wobei die aktuellen Hauptakteure oft diese Überlegungen dominieren.

Die Forschung, die 170 Unternehmen befragte, konzentrierte sich auf KI-Infrastruktur, Rechenleistung und wirtschaftliche Faktoren. Die Ergebnisse deuten auf eine Verlagerung hin zu KI-Bereitstellungen auf Produktionsebene hin, unterstreichen aber die Notwendigkeit eines verbesserten Kostenmanagements und besserer Transparenz.