IBM stellt Granite 4.2-Modelle für lokale LLM-Nutzung vor

IBM hat die neuesten Modelle seiner Familie von Open-Weight Large Language Models (LLMs) vorgestellt, die zum Herunterladen und zur lokalen Ausführung bestimmt sind. Die neu eingeführte Granite 4.2-Familie umfasst Varianten mit 3 Milliarden, 8 Milliarden und 30 Milliarden Parametern.

Diese Modelle verwenden eine Decoder-Only-Architektur. Die neuen Versionen bieten nativ ein Kontextfenster von 128.000 Tokens, was die Verarbeitung umfangreicher Texteingaben ermöglicht.

Die Varianten mit 8B und 30B Parametern wurden mittels agentenbasierter verstärkender Lernverfahren trainiert. Dies erweitert ihre Fähigkeiten für Aufgaben wie Websuche oder die Nutzung externer Werkzeuge über eine Terminaloberfläche. Das 3B-Modell unterstützt ebenfalls die Werkzeugnutzung, jedoch mit weniger spezialisiertem Training.

Die Verfügbarkeit lokal einsetzbarer Sprachmodelle bedient die wachsende Nachfrage nach KI-Lösungen, die verbesserte Datensicherheit und Anpassungsmöglichkeiten für Unternehmen bieten.