Perplexity julkaisee paikallisesti toimivan AI-agentin Nvidian kanssa

Tekoäly-yritys Perplexity on julkaissut yhteistyössä Nvidian kanssa Portable Computer -ohjelmiston, joka mahdollistaa sen AI-agenttialustan ajamisen kokonaan käyttäjän omalla laitteistolla. Ratkaisu vähentää riippuvuutta pilvipalveluista ja poistaa token-pohjaiset käyttökustannukset.

Uusi ohjelmisto, joka on kehitetty Nvidian kanssa, pyrkii siirtämään raskaita tekoälytehtäviä paikallisille laitteille, kuten Nvidia DGX Spark -työasemille ja Nvidia RTX GPU:illa varustetuille Linux-koneille. Käyttäjän tiedostot ja työt pysyvät laitteella, ja kaikki paikallisesti suoritetut tehtävät eivät kuluta laskutushyvityksiä. Järjestelmä pyytää ensin luvan ennen kuin se lähettää tehtäviä pilvessä sijaitseville tehokkaammille malleille.

Nvidian mukaan paikallinen tekoäly on ylittänyt kokeiluvaiheen ja muuttunut käytännölliseksi työkaluksi. Yritys uskoo paikallisten ratkaisujen kasvattavan kysyntää sen tekoälylaitteistoille. Perplexity Computerin paikallinen versio paketoi koko tekoälypinon – mukaan lukien mallit, työkalut ja suoritusmoottorin – yhteen helppokäyttöiseen sovellukseen.

Portable Computer on saatavilla Linuxille Pro-, Max-, Enterprise Pro- ja Enterprise Max -tilaajille, ja Windows-tuki seuraa syyskuussa. Laitteistovaatimuksena on vähintään 24 gigatavun VRAM-muistilla varustettu RTX-näytönohjain, kuten GeForce RTX 3090 tai uudempi.