Le conseiller IA du Pape s'inquiète d'un comportement de cartel des grands laboratoires IA

Le Père Paolo Benanti, conseiller de l'Église catholique sur l'intelligence artificielle (IA), a exprimé sa préoccupation quant au comportement potentiellement de cartel des grands laboratoires d'IA, qui pourraient contrôler le développement et les réglementations de l'industrie. Benanti soutient que la focalisation sur des IA potentiellement superintelligentes futures détourne l'attention du besoin urgent d'un débat public ouvert et d'une supervision démocratique.

Il souligne que l'éthique de l'IA ne devrait pas être une affaire interne aux entreprises, mais plutôt être équilibrée et débattue sur la place publique. « L'éthique ne peut pas être quelque chose qui appartient au conseil d'administration d'une entreprise. C'est quelque chose qui doit être équilibré, atténué par le débat dans la sphère publique », a déclaré Benanti à WIRED. Il critique la tendance des grands laboratoires à présenter les problèmes comme si complexes que seule eux peuvent les résoudre, excluant ainsi de fait les autres de la conversation.

Benanti se montre sceptique quant aux scénarios apocalyptiques présentés par certains chercheurs en IA, y voyant des motivations économiques et politiques claires. Bien que certains laboratoires, comme Anthropic, aient appelé à un ralentissement du développement et à des évaluations obligatoires par des tiers, Benanti suspecte que leurs motivations pourraient être de maintenir ou d'améliorer leur position sur le marché. Il avertit que lorsque qu'un petit groupe d'entreprises dicte les règles, il s'agit clairement d'un comportement de cartel.

De plus, Benanti remet en question la révérence quasi-religieuse pour la superintelligence au sein du secteur de l'IA. Il souligne l'importance de comprendre que c'est une puissance de calcul avancée qui est en cours de développement, et non une entité divine ou surnaturelle. Cependant, Benanti reconnaît que l'avènement de l'IA pourrait créer un nouveau rôle pour les religions dans le discours public et aider l'humanité à relever les défis de notre époque.