PrismML tuo pienet kielimallinsa Qualcommin älylasien käyttöön
AI-startup PrismML on kehittänyt pienen kielimallin version, joka toimii Qualcommin Snapdragon-sirulla varustetuissa älylasissa. Malli mahdollistaa tekoälyn paikallisen käytön laitteissa.
Tekoäly-startup PrismML on tuonut markkinoille oman pienikokoisen kielimallinsa (LLM) version, joka on suunniteltu toimimaan Qualcommin Snapdragon-piirisarjalla varustetuissa älylasissa. Yhtiö esitteli ratkaisuaan Qualcommin Snapdragon Summit -tapahtumassa.
PrismML:n kehittämä 1-bittinen Bonsai LLM voidaan ajaa paikallisesti älylaseissa, jotka käyttävät Snapdragon AR1 Gen 1 -alustaa. Startupin tavoitteena on kehittää avoimen painoarvon tekoälyä, joka toimii laitteissa hyödyntäen niiden olemassa olevaa laskentatehoa. Tämä tarjoaa vaihtoehdon pilvipohjaisille tekoälypalveluille ja niiden yksityisyyteen liittyville huolille.
PrismML:n erikoisuutena on suurten kielimallien merkittävä pienentäminen samalla, kun niiden suorituskyky säilyy lähes ennallaan. Älylaseihin sovellettu versio on 2 miljardin parametrin malli, joka on optimoitu näkö- ja kielitehtäviin. Sen avulla käyttäjät voivat kysyä reaaliaikaisesti tietoa siitä, mitä he näkevät.
Vaikka PrismML on nyt saanut mallinsa toimimaan Qualcommin siruilla, toistaiseksi yksikään älylasivalmistaja ei ole julkistanut tuotetta, jossa PrismML:n teknologiaa hyödynnettäisiin. Yhtiön visio on luoda hajautetumpaa ja laitteisiin integroitua tekoälyä.