Neue KI-Modell läuft nativ auf iPhones mit 12 GB Speicher
Das Bonsai 27B KI-Modell, feinabgestimmt vom Qwen 3.6 27B, kann nun nativ auf iPhones mit 12 GB RAM laufen und behält dabei 90 % seiner Intelligenz.
Der Entwickler PrismML hat das Bonsai 27B KI-Modell veröffentlicht, das für den Betrieb auf Endgeräten entwickelt wurde. Das Modell basiert auf der Qwen 3.6 27B-Architektur, wurde jedoch erheblich für einen reduzierten Speicherverbrauch optimiert.
Zwei Versionen von Bonsai 27B sind verfügbar: eine 3-Bit-Ternary-Version mit 5,9 GB, die für Leistung auf Laptop-Niveau konzipiert ist, und eine 1-Bit-Version mit 3,9 GB, die speziell für Smartphones entwickelt wurde.
Diese Entwicklung ermöglicht erweiterte KI-Funktionen, einschließlich Mehrschritt-Schlussfolgerungen und die Verarbeitung langer Kontexte, direkt auf einem Gerät, ohne Abhängigkeit von Cloud-Servern oder Hochleistungs-Hardware.
Die Veröffentlichung stellt einen bedeutenden Fortschritt für zugängliche, lokale KI-Verarbeitung dar und ermöglicht potenziell eine breitere Integration in Unterhaltungselektronik.