PrismML hävdar att de krympte AI-modell med 93 %, Apple vill diskutera

Startupen PrismML har utvecklat en metod som enligt företaget har minskat storleken på en AI-modell med 93 %. Företaget, en avknoppning från Caltech med stöd från Khosla Ventures, hävdar att de har lyckats krympa en 54 GB stor AI-modell till under 4 GB.

Den nya tekniken gör det möjligt för modellen att köras direkt på en iPhone eller en nyare Mac. PrismML:s VD Babak Hassibi har bekräftat att Apple för närvarande för samtal för att utvärdera företagets teknik. Förhandlingarna är i ett tidigt skede men Hassibi beskriver dem som lovande.

PrismML släppte nyligen två gratis, komprimerade AI-modeller designade för att köras på Apples enheter och på datorer utrustade med Nvidias processorer. Företaget samlade in 16,25 miljoner dollar i en sådden finansieringsrunda i mars.

Om tekniken lyckas kan den möjliggöra lokal körning av kraftfullare AI-applikationer på Apples enheter istället för att förlita sig på molntjänster. Detta skulle kunna förbättra hastigheten, integriteten och batteritiden för röstassistenten Siri. Analytiker påpekar dock att modellernas faktiska prestanda fortfarande kräver testning och att mindre modeller inte nödvändigtvis minskar den totala efterfrågan på halvledarchip i branschen.