Perplexity lance un agent IA entièrement local avec Nvidia
La société d'IA Perplexity a lancé Portable Computer, une plateforme d'agent IA conçue pour fonctionner entièrement sur le matériel local des utilisateurs. Le partenariat avec Nvidia vise à déplacer les charges de travail IA hors du cloud et à éliminer les coûts basés sur les tokens.
Perplexity a lancé Portable Computer, une plateforme d'agent IA conçue pour fonctionner entièrement sur le matériel local des utilisateurs, développée en étroite collaboration avec Nvidia. Cette initiative vise à déplacer les charges de travail IA importantes du cloud vers des appareils locaux, en commençant par les stations de travail Nvidia DGX Spark et les machines Linux équipées de GPU Nvidia RTX.
Le système garantit que les fichiers et le travail de l'utilisateur restent sur l'appareil, éliminant ainsi les crédits de facturation cloud pour les tâches traitées localement. Par défaut, toutes les tâches commencent localement, le système demandant l'autorisation avant d'envoyer des étapes à des modèles frontières plus puissants basés sur le cloud. Cette approche répond aux préoccupations de confidentialité pour les données sensibles.
Nvidia considère ce lancement comme un signal stratégique indiquant que l'IA locale a dépassé l'intérêt des amateurs pour devenir une application pratique, dans le but de stimuler la demande pour son matériel IA. Portable Computer de Perplexity regroupe la pile IA complète, y compris les modèles, les outils et les moteurs d'inférence, dans une seule application conviviale, simplifiant ainsi la configuration par rapport à l'assemblage de composants séparés.
Portable Computer est disponible pour Linux dès aujourd'hui pour les abonnés Pro, Max, Enterprise Pro et Enterprise Max, avec une prise en charge de Windows prévue en septembre. La configuration matérielle minimale requise est un GPU RTX avec au moins 24 Go de VRAM, tel qu'une GeForce RTX 3090 ou plus récente.