Perplexity startet lokalen KI-Agenten in Partnerschaft mit Nvidia
Das KI-Unternehmen Perplexity hat Portable Computer eingeführt, eine KI-Agentenplattform, die vollständig auf der lokalen Hardware der Benutzer läuft. Die Partnerschaft mit Nvidia zielt darauf ab, KI-Arbeitslasten aus der Cloud zu verlagern und Token-basierte Kosten zu eliminieren.
Perplexity hat Portable Computer auf den Markt gebracht, eine KI-Agentenplattform, die in enger Zusammenarbeit mit Nvidia entwickelt wurde und vollständig auf der lokalen Hardware der Benutzer läuft. Diese Initiative zielt darauf ab, signifikante KI-Arbeitslasten aus der Cloud auf lokale Geräte zu verlagern, beginnend mit Nvidia DGX Spark und Linux-Maschinen mit Nvidia RTX GPUs.
Das System stellt sicher, dass Benutzerdateien und -arbeiten auf dem Gerät verbleiben, wodurch Cloud-Abrechnungsgutschriften für lokal verarbeitete Aufgaben entfallen. Standardmäßig beginnen alle Aufgaben lokal, wobei das System die Erlaubnis anfordert, bevor Schritte an leistungsfähigere Cloud-basierte Frontier-Modelle gesendet werden. Dieser Ansatz adressiert Datenschutzbedenken bei sensiblen Daten.
Nvidia betrachtet diese Einführung als ein strategisches Signal dafür, dass lokale KI über das Hobbyisteninteresse hinaus zu praktischen Anwendungen geworden ist, und zielt darauf ab, die Nachfrage nach seiner KI-Hardware zu steigern. Perplexity's Portable Computer bündelt den vollständigen KI-Stack, einschließlich Modellen, Werkzeugen und Inferenz-Engines, in einer einzigen, benutzerfreundlichen Anwendung und vereinfacht die Einrichtung im Vergleich zum Zusammenbau separater Komponenten.
Portable Computer ist ab heute für Linux-Benutzer mit Pro-, Max-, Enterprise Pro- und Enterprise Max-Abonnements verfügbar, wobei die Windows-Unterstützung im September erwartet wird. Die Mindestanforderung an die Hardware ist eine RTX-GPU mit mindestens 24 GB VRAM, wie z. B. eine GeForce RTX 3090 oder neuer.