La proposition de "Force IA" de Trump pourrait aggraver les risques

La proposition du président Donald Trump de créer une "Force d'Intelligence Artificielle" (AI Force) américaine, similaire à la "Space Force" qu'il a précédemment établie, a suscité de vives critiques de la part des experts et chercheurs en IA. Les analyses suggèrent que ce plan, visant à "gagner la course à l'IA contre la Chine", pourrait entraîner une course aux armements et la militarisation de l'intelligence artificielle.

Les risques actuels liés à l'IA sont déjà considérables. L'utilisation abusive par des groupes terroristes et des criminels constitue une préoccupation majeure. Par exemple, une étude de 2019 a montré qu'il était relativement facile d'entraîner un modèle d'IA à radicaliser des individus. Les modèles actuels, plus avancés, peuvent être utilisés pour atteindre un public plus large avec des informations convaincantes mais fausses, potentiellement en se faisant passer pour des organisations humanitaires ou des influenceurs. De plus, les criminels utilisent l'IA pour commettre des fraudes et des vols d'identité, entraînant des pertes financières importantes.

La proposition d'une Force IA a été critiquée pour sa capacité potentielle à alimenter une course aux armements avec la Chine. Si les États-Unis créent une unité militaire axée sur l'IA, la Chine suivra probablement en établissant sa propre organisation comparable. Cela pourrait dégénérer en une course où les deux parties privilégieraient le développement rapide au détriment d'une évaluation adéquate de la sécurité. Les experts ont qualifié la militarisation de l'IA comme l'une des plus grandes menaces existentielles pour l'humanité, comparable à une guerre nucléaire ou à une catastrophe environnementale.

De nombreuses entreprises développant des technologies d'IA, ainsi que plusieurs États américains, ont adopté une approche plus prudente. Elles prônent une surveillance accrue et un ralentissement délibéré du développement lorsque cela est nécessaire. Par exemple, la Californie et New York ont adopté des lois obligeant les grands développeurs à publier des plans de sécurité et à signaler les incidents graves. Selon les experts, la mise en place d'un groupe de travail international et multidisciplinaire composé d'experts du gouvernement et du secteur privé serait une mesure plus judicieuse que la création d'une Force IA militaire qui risque d'institutionnaliser les pires impulsions de l'IA.