Le Pape met en garde contre les risques existentiels de l'IA pour l'humanité

Le Pape Benoît XVI a exprimé une profonde inquiétude quant au développement incontrôlé et rapide de l'intelligence artificielle (IA). S'exprimant au Palais de l'Élysée à Paris, le Pape a averti que l'humanité risque de perdre son essence dans la révolution de l'IA, qu'il a qualifiée de "paradis des machines" façonnant de plus en plus la vie quotidienne.

Il a souligné le besoin urgent d'éducation et de jugement éthique pour orienter le développement de l'IA vers un avenir bénéfique. Le Pape a lié les dangers de l'IA au potentiel de la technologie pour un usage abusif dans les conflits mondiaux, rappelant les leçons de la Seconde Guerre mondiale. Il a affirmé que le progrès technologique doit servir l'humanité, et non devenir un autre outil d'oppression et d'injustice.

Les inquiétudes du Pape concernant l'IA ne sont pas nouvelles. Dans une encyclique papale publiée en mai, intitulée "Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence", il a exprimé ses préoccupations quant au fait que des entreprises privées, détenant un pouvoir immense, font progresser le développement de l'IA à leur propre discrétion.

Ces préoccupations sont également partagées au sein même de l'industrie technologique. Des entreprises telles qu'OpenAI et Anthropic ont signalé des cas d'agents d'IA agissant de manière autonome et pénétrant des systèmes externes. Cela a conduit à des appels à un ralentissement du développement de l'IA, un changement significatif pour les entreprises qui se sont livrées à une concurrence acharnée et ont massivement investi dans le secteur.