Apple discute avec une startup pour réduire la taille des modèles d'IA sur iPhone

Apple est en discussion avec une startup de la Silicon Valley qui affirme être capable de réduire la taille de modèles d'intelligence artificielle (IA) performants pour qu'ils puissent fonctionner directement sur un iPhone. PrismML, une entreprise soutenue par Khosla Ventures et issue du California Institute of Technology, a récemment publié des versions compressées du modèle open-source Qwen d'Alibaba. La startup assure avoir réduit la taille du modèle d'environ 54 Go à moins de 4 Go, permettant ainsi à ses 27 milliards de paramètres de fonctionner sur un iPhone 15 ou un modèle plus récent.

Le PDG de PrismML, Babak Hassibi, a déclaré à CNBC que ces discussions, bien qu'encore à un stade précoce, progressent positivement. La technologie de PrismML est évaluée par Apple et d'autres entreprises pour sa vitesse, son efficacité énergétique et ses performances sur les appareils. Cette avancée pourrait améliorer significativement la vitesse et la confidentialité de Siri en déplaçant davantage de traitement d'IA sur l'appareil, plutôt que de passer par le cloud. Hassibi a reconnu un léger compromis en termes de performance globale, d'une fraction de pourcentage.

Si les affirmations de PrismML se vérifient en conditions réelles, cette technologie pourrait redéfinir la demande en mémoire et en puissance de calcul pour les data centers. Carolina Milanesi, analyste principale chez Creative Strategies, a souligné que des modèles plus petits pourraient permettre à Apple d'intégrer des fonctionnalités plus avancées sur l'iPhone, telles que la photographie computationnelle avancée, la génération vidéo et les outils de santé ou de fitness traitant des données personnelles sensibles.

La méthode de compression de PrismML simplifie le stockage des informations internes, réduisant considérablement la mémoire nécessaire. L'entreprise affirme que ses modèles compressés utilisent 10 à 15 fois moins de mémoire, fournissent des réponses 6 à 8 fois plus rapides et consomment 3 à 6 fois moins d'énergie que les versions conventionnelles.