Uusi tekoälymalli mahdollistaa toiminnan 12 Gt muistilla varustetuissa iPhoneissa
Bonsai 27B -tekoälymalli, joka on hienosäädetty Qwen 3.6 27B:stä, pystyy toimimaan natiivisti 12 Gt RAM-muistilla varustetuissa iPhone-laitteissa säilyttäen 90 % älykkyydestään.
Kehittäjä PrisML on julkaissut Bonsai 27B -tekoälymallin, joka on suunniteltu toimimaan mobiililaitteissa. Malli perustuu Qwen 3.6 27B -malliin, mutta se on optimoitu kuluttamaan huomattavasti vähemmän muistia.
Bonsai 27B on saatavilla kaksi versiona: 3-bittinen Ternary-versio, joka vie 5,9 Gt tilaa ja soveltuu kannettavien tietokoneiden tasoiseen käyttöön, sekä 1-bittinen versio, joka vie vain 3,9 Gt tilaa ja on optimoitu älypuhelimille.
Tämä mahdollistaa kehittyneiden tekoälytoimintojen, kuten monivaiheisen päättelyn ja pitkien asiayhteyksien käsittelyn, ajamisen suoraan laitteessa ilman tarvetta verkkoyhteydelle tai tehokkaalle palvelimelle.
Julkaisua on pidetty merkittävänä askeleena paikallisesti ajettavien tekoälymallien kehityksessä, mahdollistaen laajemman käyttöönoton kuluttajalaitteissa.