Perplexity kombinerar moln- och lokal AI för ökad dataintegritet

Perplexity har lanserat en ny hybridberäkningsfunktion för sin AI-plattform. Systemet gör det möjligt för en AI-agent att dela uppgifter mellan avancerade modeller som körs i molnet och mindre modeller som körs lokalt på Mac-datorer med Apple Silicon. Detta gör att känslig data kan dirigeras till den lokala maskinen och därmed aldrig lämna enheten.

Företaget uppger att detta är första gången en AI-agent kan påbörja en uppgift i molnet och dynamiskt överföra de konfidentiella delarna av samma uppgift till en modell som körs på användarens egen hårdvara, utan att behöva starta om jobbet eller tappa kontext. Funktionen blir tillgänglig via Perplexitys skrivbordsapp för företagskunder som väljer att aktivera den, samt för Pro- och Max-prenumeranter, på alla Apple Silicon Mac-datorer som kör macOS 15 eller senare.

Perplexity beskriver hybridmodellen som övertygande för uppgifter som kräver både konfidentialitet och hög noggrannhet. Genom att kombinera molnets maximala intelligens med den säkerhet och integritet som lokal körning erbjuder, kan man uppnå bättre resultat. Arkitekturen fungerar som en dispatcher: en molnbaserad modell bryter ner en uppgift i deluppgifter och dirigerar dem till rätt plats. Webbsökningar och tung resonemang utförs i molnet, medan uppgifter som rör privat filer eller lokala data delegeras till en underagent som körs lokalt på Macen.

Nyckeln i systemet är Perplexitys "Privacy Gate", en klassificerare som tränats av företaget och som körs på enheten. Den skannar efter personligt identifierbar information innan något skickas till molnet. Om känsligt innehåll flaggas, kan användaren välja om delen av uppgiften ska köras lokalt eller delas. Lokalt genererade beräkningar kostar inget extra för användaren, endast molnorkestreringen och delegationen förbrukar krediter.

Perplexity demonstrerade funktionen med scenarier som riktar sig till professionella användare. Ett exempel var en advokat som uppdaterade ett konfidentiellt utkast mot lokalt lagrade filer, medan en molnagent hämtade offentlig rättspraxis. Ett annat exempel var en private equity-analytiker som bearbetade en finansiell modell och skapade en presentation för investerare. För företagskunder kommer det att finnas administratörsverktyg för att konfigurera ytterligare inställningar.