IT Home veröffentlicht MiniCPM-V 4.7 KI-Modell für On-Device-Nutzung
IT Home hat seine neue Generation von multimodalen Large Language Models für die lokale Gerätenutzung, MiniCPM-V 4.7, veröffentlicht. Das Modell unterstützt verschiedene Plattformen und bietet verbesserte Leistung auf mobilen Geräten.
IT Home gab am 13. Oktober die Veröffentlichung seines neuen multimodalen Large Language Models der nächsten Generation für die On-Device-Nutzung, MiniCPM-V 4.7, bekannt. Das Modell ist in zwei Versionen erhältlich: 35B-A3B und 1B, wobei 35B-A3B das erste MoE-Modell (Mixture of Experts) der Serie ist.
Laut Unternehmensangaben nutzt das Modell die neueste LES (Look-ahead Expert Scheduling) Inferenzbeschleunigungstechnologie. Die 35B-A3B-Version wird als erstes Open-Source-MoE-Modell hervorgehoben, das verlustfrei und reibungslos direkt auf Geräten laufen kann. IT Home berichtet von einer Dekodierungsgeschwindigkeit von über 13 Token pro Sekunde bei nur 3 GB Arbeitsspeicher, demonstriert auf Geräten wie dem iPhone 17 Pro Max, was komplexe KI-Aufgaben direkt auf mobiler Hardware ermöglicht.
Das MiniCPM-V 4.7 Modell ist kompatibel mit iOS, Android und HarmonyOS und unterstützt verschiedene Chip-Plattformen, darunter Intel, AMD, Arm und Rockchip. Diese breite Kompatibilität zielt darauf ab, eine größere Bandbreite an mobilen Geräten und lokalen Rechenszenarien abzudecken.
Zusätzlich hat IT Home die SRFT (Self-Replay Fine-Tuning) Methode Open Source gestellt. Ziel ist es, Entwicklern zu helfen, die Modellfähigkeiten kostengünstiger zu erweitern und das Vergessen während des Fine-Tunings zu reduzieren, was die Weiterentwicklung und Anwendung des Modells erleichtert. Das Unternehmen gibt an, dass die 35B-A3B-Version Konkurrenten wie Qwen3.6 35B-A3B im Instruct-Modus übertrifft, während die 1B-Version signifikante Verbesserungen gegenüber Qwen3.5 0.8B zeigt.