OpenAI-Forscher lobt AMD- und Cerebras-KI-Lösung
OpenAI-Forscher Jeffrey Wang bezeichnete eine gemeinsame KI-Inferenzlösung von AMD und Cerebras als „unglaublich“. Das System zielt auf KI-Aufgaben mit extrem niedriger Latenz ab.
Eine neue KI-Inferenzlösung, die von AMD in Zusammenarbeit mit Cerebras entwickelt wurde, hat von OpenAI-Forscher Jeffrey Wang hohe Anerkennung erhalten, der die Leistung als „unglaublich“ bezeichnete. Die Lösung wurde entwickelt, um KI-Inferenzszenarien mit extrem niedriger Latenz zu bewältigen, indem sie AMDs Helios-Rack-Lösung mit der Wafer-Scale-Engine-Technologie von Cerebras kombiniert.
Das Helios-System ist als Hochleistungs- und skalierbare Durchsatzmaschine konzipiert, die hauptsächlich die Verarbeitung von Prompts und große Kontextfenster handhabt. Die Wafer-Scale Engine von Cerebras konzentriert sich auf die Token-Generierungs- und Dekodierungsstufen, die eine erhebliche Speicherbandbreite erfordern und eine extrem niedrige Latenz verlangen. In Kombination soll das System den Token-Durchsatz pro Watt um das Fünffache erhöhen.
Wang hob die beeindruckende Geschwindigkeit der Lösung hervor und erklärte, dass Aufgaben, die früher Minuten dauerten, nun „augenblicklich“ erledigt werden, wenn bestimmte OpenAI-Modelle auf Cerebras-Chips ausgeführt werden. Diese signifikante Geschwindigkeitssteigerung verbessert die Arbeitseffizienz für Forscher und Entwickler erheblich.
Die Zusammenarbeit zwischen AMD und Cerebras zielt darauf ab, eine wettbewerbsfähige Alternative auf dem KI-Hardwaremarkt anzubieten, insbesondere im Vergleich zu Angeboten von NVIDIA und Groq. Der Fokus auf Inferenz mit niedriger Latenz ist entscheidend, da KI-Anwendungen immer ausgefeilter werden und schnellere Reaktionszeiten erfordern.
Diese Entwicklung erfolgt in einer Zeit, in der die Nachfrage nach effizienter KI-Hardware weiter wächst. Die Partnerschaft wird voraussichtlich AMDs Position im KI-Sektor stärken, indem sie spezialisierte Lösungen für anspruchsvolle Rechenaufgaben anbietet.