Perplexity yhdistää pilvi- ja paikallisen tekoälyn luottamuksellisuuden parantamiseksi

Perplexity on julkaissut uuden hybridilaskentatoiminnon tekoälyalustalleen. Uusi järjestelmä antaa tekoälyagentin jakaa työtehtäviä pilvessä toimivien kehittyneiden mallien ja Applen suorittimilla varustetuissa Maceissa paikallisesti ajettavien pienempien mallien välillä. Tämän avulla arkaluonteiset tiedot voidaan reitittää paikalliselle koneelle, jolloin ne eivät koskaan poistu laitteesta.

Yhtiön mukaan kyseessä on ensimmäinen kerta, kun tekoälyagentti voi aloittaa tehtävän pilvessä ja dynaamisesti siirtää tehtävän luottamukselliset osat käyttäjän omalla laitteistolla toimivaan malliin ilman tehtävän uudelleenkäynnistystä tai kontekstin menetystä. Toiminto on saatavilla Perplexityn työpöytäsovelluksen kautta yritysasiakkaille, jotka valitsevat sen käyttöön, sekä Pro- ja Max-tilaajille kaikilla Apple Silicon -Maceilla, joissa on macOS 15 tai uudempi.

Perplexityn mukaan hybridimalli on hyödyllinen erityisesti tehtävissä, jotka vaativat luottamuksellisuutta ja tarkkuutta. Yhdistämällä pilven maksimaalisen älykkyyden ja paikallisen laskennan tuoman turvallisuuden ja yksityisyyden, voidaan saavuttaa parempia tuloksia. Tiedonkulku toimii lähettäjän periaatteella: pilvimalli jakaa tehtävän osatehtäviin ja reitittää ne sopiviin paikkoihin. Verkkohaku ja raskaat päättelytehtävät suoritetaan pilvessä, kun taas paikallista dataa tai laitteen toimintoja koskevat tehtävät siirretään Macin paikallisesti ajettavalle alagentille.

Keskeinen osa järjestelmää on Perplexityn "Privacy Gate" -ominaisuus, joka on laitteella toimiva luokittelija. Se tarkistaa henkilökohtaisesti tunnistettavat tiedot ennen niiden lähettämistä pilveen. Jos arkaluonteista sisältöä havaitaan, käyttäjä voi valita, suoritetaanko tehtävä paikallisesti vai jaetaanko se. Paikallisesti generoidut laskentakierrokset eivät aiheuta lisäkustannuksia käyttäjälle, vaan ainoastaan pilven orkestrointi ja delegointi kuluttavat krediittejä.

Perplexity esitteli toiminnon demonstraatioilla, jotka kohdistuivat ammattilaisten tyypillisiin käyttötapauksiin. Yksi esimerkki oli asianajaja, joka päivitti luottamuksellista oikeudenkäyntiasiakirjaa samalla kun pilviagentti haki julkista oikeustapaustietoa verkosta. Toinen esimerkki oli pääomasijoitusalan ammattilainen, joka muokkasi talousmallia ja loi sijoituskomitean esityksen hyödyntäen sekä paikallisia tietoja että pilvitutkimusta. Yrityskäyttöön on tulossa hallintatyökaluja, jotka mahdollistavat lisäasetusten määrittelyn.