Analyse des risques : L'angle mort de l'IA physique

Audrey Miller, associée chez Tapestry VC, a exprimé sa préoccupation quant à la focalisation du débat actuel sur la sécurité de l'IA, trop axé sur le contrôle des grands modèles linguistiques (LLM) et négligeant les risques importants liés à l'IA physique.

Miller note qu'un nombre croissant de projets visent à améliorer la sécurité des systèmes d'IA physique, un domaine qu'elle décrit comme en passe de devenir une « catégorie massive ». Elle souligne que les systèmes d'IA physique, qui interagissent directement avec le monde réel, comme la robotique ou les véhicules autonomes, peuvent causer des dommages tangibles en cas d'accidents ou de dysfonctionnements.

« La conversation est trop axée sur la sécurité de l'IA, mais elle n'a pas encore vraiment abordé l'IA physique », a déclaré Miller lors d'une interview. « Nous devons réfléchir à la manière de garantir que ces systèmes soient sûrs et fiables. »

Les rapports indiquent que les investissements dans l'IA en Europe ont considérablement augmenté. En 2023, les entreprises d'IA opérant en Europe ont levé 28,5 milliards d'euros de financement, soit plus du double du montant levé en 2022. Malgré cette croissance, l'identification et la gestion des risques de l'IA physique nécessitent une attention accrue.

Miller suggère que les investisseurs doivent reconnaître le potentiel de l'IA physique en tant que « catégorie massive » qui exige une concentration particulière sur les considérations de sécurité. Elle anticipe davantage d'investissements et d'innovations ciblant ces défis de sécurité cruciaux au sein de l'IA physique.