PrismML affirme avoir réduit un modèle d'IA de 93 %, Apple discute
La startup PrismML déclare avoir considérablement réduit la taille d'un modèle d'IA, permettant son exécution directe sur un iPhone. Apple évaluerait la technologie.

La startup PrismML a développé une méthode qui, selon elle, réduit un modèle d'intelligence artificielle de 93 %. La société, issue de Caltech et soutenue par Khosla Ventures, affirme avoir réduit un modèle d'IA de 54 Go à moins de 4 Go, lui permettant potentiellement de fonctionner sur des appareils tels que l'iPhone 15 ou plus récent.
Le PDG de PrismML, Babak Hassibi, a confirmé qu'Apple évalue actuellement sa technologie, qualifiant les discussions initiales de prometteuses. L'entreprise a levé 16,25 millions de dollars lors d'un tour de financement d'amorçage en mars. PrismML a également publié deux modèles d'IA gratuits et compressés conçus pour les appareils Apple et les PC équipés de processeurs Nvidia.
Cette avancée pourrait permettre à Apple d'exécuter des IA plus sophistiquées localement, réduisant ainsi la dépendance au traitement dans le cloud. Cela pourrait entraîner des améliorations en termes de vitesse, de confidentialité et d'efficacité énergétique pour des fonctionnalités comme Siri. Cependant, les analystes du secteur préviennent que ces affirmations nécessitent une validation dans des conditions réelles.
Bien que le potentiel de l'IA embarquée soit important, des tests supplémentaires sont nécessaires pour confirmer les affirmations de performance de PrismML. L'impact plus large sur l'industrie des semi-conducteurs reste également à déterminer, car une taille de modèle réduite n'équivaut pas automatiquement à une demande moindre en matériel de traitement.