PrismML introducerar sina små LLM:er för smarta glasögon med Qualcomm-chip

AI-startupen PrismML har lanserat en version av sina små språkmodeller (LLM) speciellt anpassad för smarta glasögon som använder Qualcomms Snapdragon-chip. Företaget demonstrerade sin lösning vid Qualcomms Snapdragon Summit.

PrismML:s 1-bitars Bonsai LLM kan köras lokalt på smarta glasögon som är byggda på Snapdragon AR1 Gen 1-plattformen. Startupens övergripande mål är att skapa AI med öppen vikt som körs på enheter och utnyttjar deras befintliga datorkraft. Detta ses som ett alternativ till proprietära AI-tjänster och deras krav på molnbaserad datorkraft samt integritetsfrågor.

PrismML:s teknologi fokuserar på att kraftigt reducera storleken på stora språkmodeller med minimal prestandaförlust. Den version som anpassats för smarta glasögon är en modell med 2 miljarder parametrar, optimerad för syn- och språkuppgifter. Detta tillåter användare att i realtid ställa frågor om vad de ser.

Trots att PrismML nu har fått sin modell att fungera på Qualcomms chip har inga smarta glasögontillverkare ännu lanserat produkter som använder PrismML:s teknik. Företagets vision är att skapa mer distribuerad och enhetsintegrerad AI.