Acrab lance sa puce IA GΞLIX 1 pour périphériques

La startup Acrab a officiellement dévoilé le GΞLIX 1 System-on-Chip (SoC), son premier produit conçu pour les appareils d'intelligence artificielle en périphérie (edge). Fabriquée avec un procédé de gravure de 5 nm, cette puce est capable d'exécuter localement des modèles d'IA pouvant atteindre 100 milliards de paramètres.

Le GΞLIX 1 adopte une architecture hétérogène, combinant un processeur Arm à 20 cœurs, un GPU de 3TFLOPS et une unité de traitement neuronal (NPU), offrant une puissance de calcul IA brute de 650 TOPS. Il intègre une mémoire cache L1 de 8 Mo et une mémoire LPDDR5X rapide.

Acrab met en avant des gains de performance significatifs, notamment l'accélération du mécanisme d'attention via le matériel vectoriel et la réduction de la latence du premier token grâce à des optimisations ciblées. Dans une configuration Gemma 26B A4B avec un cache KV de 40k et une entrée de 10k tokens, la puce atteindrait un taux de pré-remplissage de 1416,8 tokens par seconde, soit 7,5 fois plus qu'un Mac Mini équipé de la puce Apple M4 Pro, selon l'entreprise.

Parallèlement au matériel, Acrab propose un ensemble logiciel complet et un design de référence pour les agents IA. L'entreprise a également développé sa première solution matérielle intégrée, l'Agent Box, basée sur la puce GΞLIX 1, afin de faciliter et d'accélérer le déploiement des capacités d'IA sur les appareils en périphérie.