Liquid AI déploie l'IA sur appareil avec un nouveau modèle pour Raspberry Pi

La startup d'IA Liquid AI, fondée par d'anciens chercheurs du MIT, a dévoilé LFM2.5-2.6B, un modèle linguistique ouvert conçu pour les charges de travail agentiques. Ce modèle est optimisé pour fonctionner entièrement sur du matériel local, y compris les smartphones, les ordinateurs portables et les appareils aussi compacts qu'un Raspberry Pi, éliminant ainsi le besoin d'inférence basée sur le cloud ou de GPU dédiés.

Cette capacité ouvre la voie aux applications d'IA en périphérie (edge AI) et offre une flexibilité accrue aux entreprises, en particulier celles opérant dans des secteurs réglementés ou traitant des données sensibles qui ne peuvent être transmises au cloud. LFM2.5-2.6B est idéal pour les tâches agentiques à haut volume et bien définies, telles que les appels d'outils, la gestion de documents, l'automatisation des calendriers et des flux de travail, ainsi que les routines d'arrière-plan. Il convient également aux environnements à connectivité limitée, comme les véhicules et la robotique.

Le modèle et son checkpoint de base (LFM2.5-2.6B-Base) sont disponibles sur Hugging Face, prenant en charge les principales piles d'inférence, notamment llama.cpp et ONNX. Cette large compatibilité positionne le modèle pour un déploiement sur le matériel grand public, l'infrastructure d'entreprise et les systèmes embarqués. Liquid AI a également publié un framework open-source pour le fine-tuning appelé LEAP.

Liquid AI ne positionne pas LFM2.5-2.6B comme un concurrent des grands modèles de pointe, mais comme une solution pour les applications d'entreprise où des facteurs tels que la latence, la confidentialité, la flexibilité de déploiement et les coûts d'inférence sont prioritaires par rapport au leadership absolu en matière de benchmarks.