Liquid AI bringt KI-Modell für Geräte bis Raspberry Pi

Das KI-Startup Liquid AI, gegründet von ehemaligen MIT-Wissenschaftlern, hat LFM2.5-2.6B veröffentlicht, ein offenes Sprachmodell, das speziell für agentenbasierte Aufgaben entwickelt wurde. Das Modell kann vollständig auf lokaler Hardware betrieben werden, darunter Smartphones, Laptops und Geräte so klein wie ein Raspberry Pi, ohne auf Cloud-Inferenz oder dedizierte GPUs angewiesen zu sein.

Diese Fähigkeit eröffnet Möglichkeiten für Edge-KI-Anwendungen und bietet Unternehmen, insbesondere in regulierten Branchen oder bei der Verarbeitung sensibler Daten, die nicht in die Cloud übertragen werden dürfen, mehr Flexibilität. LFM2.5-2.6B eignet sich am besten für volumenstarke, klar definierte Agentenaufgaben wie Werkzeugaufrufe, Dokumentenmanagement, Kalender- und Workflow-Automatisierung sowie Hintergrundroutinen. Es ist auch für Umgebungen mit begrenzter Konnektivität wie Fahrzeuge und Robotik geeignet.

Das Modell und sein Basis-Checkpoint (LFM2.5-2.6B-Base) sind auf Hugging Face verfügbar und unterstützen gängige Inferenz-Stacks wie llama.cpp und ONNX. Diese breite Kompatibilität ermöglicht den Einsatz des Modells auf Consumer-Hardware, Unternehmensinfrastrukturen und eingebetteten Systemen. Liquid AI hat zudem ein Open-Source-Framework für Fine-Tuning namens LEAP veröffentlicht.

Liquid AI positioniert LFM2.5-2.6B nicht als Konkurrenz zu großen Spitzenmodellen, sondern als Lösung für Unternehmensanwendungen, bei denen Faktoren wie Latenz, Datenschutz, Flexibilität bei der Bereitstellung und Inferenzkosten Vorrang vor der reinen Benchmark-Leistung haben.