Metas angepasste AMD-GPU hat die Hälfte der Recheneinheiten und 1/3 des Speichers des Standard-MI450

Das Marktforschungsunternehmen SemiAnalysis teilt mit, dass Meta eine kundenspezifische Version des GPU-Beschleunigers auf Basis der AMD Instinct MI450-Architektur erhalten hat. Diese angepasste Variante weist signifikante Designunterschiede zum Standard-MI455 auf.

Der Standard-Instinct MI455 verfügt über acht Rechenchips auf Basis des N2-Prozesses von TSMC sowie zwölf 12-Hi 36GB HBM4-Speicherstacks, was einer Gesamtkapazität von 432 GB entspricht. Metas kundenspezifische Version hingegen enthält nur vier Rechenchips und sechs 8-Hi 24GB HBM4-Speicherstacks. Folglich verfügt Metas angepasste Version über die Hälfte der Recheneinheiten und ein Drittel der Speicherkapazität des Standard-MI455.

SemiAnalysis vermutet, dass dieses angepasste Design darauf abzielt, das Verhältnis von CPU- zu GPU-Rechenleistung in Rack-Systemen zu verbessern und die Kosteneffizienz der Speicherbandbreite zu erhöhen. Diese Anpassungen sollen die Leistung von Metas RecSys-Empfehlungssystemen steigern.

Das Analyseunternehmen weist jedoch darauf hin, dass dieses modifizierte Design für Arbeitslasten im Bereich des Trainings oder der Inferenz von großen Sprachmodellen (LLM) nicht optimal geeignet ist.