Microsoft schließt Vortraining des KI-Modells MAI-Base-2 ab
Microsoft hat die Fertigstellung des Vortrainings seines neuen Basismodells MAI-Base-2 bekannt gegeben. Das Unternehmen berichtet, dass das Modell alle getesteten Open-Source-Modelle übertrifft.
Microsoft gab kürzlich bekannt, dass es das Vortraining seines Basismodells der nächsten Generation, MAI-Base-2, abgeschlossen hat. Laut Unternehmen übertrifft das Modell alle getesteten Open-Source-Modelle, mit denen es verglichen wurde.
Das MAI-Base-2-Modell hat eine Gesamtparameterzahl von 2,8 Billionen, davon 80 Milliarden aktive Parameter. Das Training fand auf 6.000 NVIDIA GB200 GPUs über 38 Tage statt. Während des Trainingsprozesses erreichte das Modell eine durchschnittliche Rechenauslastung von 21 Prozent.
Microsoft gibt an, dass die Recheneffizienz des Vortrainings von MAI-Base-2 4- bis 12-mal höher ist als die von DeepSeek-V4-Pro-Base. Das Unternehmen betonte die Bedeutung von wissenschaftlicher Skalierung, Co-Design von Modell und Infrastruktur sowie Datenskalierung für das erfolgreiche Vortraining.
Microsoft hat bereits mit den Vorbereitungen für seine nächste Modellversion, MAI-Base-3, begonnen. Diese Entwicklung setzt die Bemühungen des Unternehmens fort, die Leistung von KI-Modellen zu verbessern und Fortschritte in diesem Bereich zu erzielen.