Apple neuvottelee startupin kanssa tekoälymallien pienentämiseksi iPhoneen

Apple käy keskusteluja startup-yrityksen kanssa, joka pystyy pienentämään tehokkaita tekoälymalleja siten, että ne voidaan ajaa suoraan iPhonessa.

PrismML-yrityksen toimitusjohtaja Babak Hassibi kertoi CNBC:lle, että neuvottelut ovat varhaisessa vaiheessa, mutta etenevät hyvin. Yrityksen teknologia mahdollistaa tekoälymallien koon pienentämisen merkittävästi, jopa 15-kertaiseksi muistinkäytön vähennys, ja mahdollistaa jopa 27 miljardin parametrin mallien ajamisen iPhone 15 -mallissa tai uudemmassa.

Tämä kehitysaskel voisi parantaa Siri-avustajan nopeutta ja yksityisyyttä siirtämällä enemmän tekoälykäsittelyä laitteen sisälle pilvipalveluiden sijaan. Vaikka Hassibi myönsi pienoisen suorituskyvyn laskun (muutamia prosenttiyksiköitä), teknologia tarjoaa merkittäviä etuja nopeudessa ja energiatehokkuudessa.

PrismML:n kompressointimenetelmä perustuu sisäisen tiedon säilytystavan yksinkertaistamiseen, vähentäen kunkin arvon bittimäärää. Tämä saattaa muuttaa muistin ja datakeskuslaskennan kysyntää tulevaisuudessa, vaikka analyytikot uskovat tekoälyn edelleen vaativan suuria määriä erillisiä siruja.