Anthropic et le Pape en désaccord sur la conscience de l'IA

L'entreprise d'intelligence artificielle Anthropic explore activement le concept de conscience de l'IA et les questions morales associées. Le cofondateur Christopher Olah dirige des recherches internes visant à comprendre ce que la conscience de l'IA pourrait signifier pour ses développeurs.

Pour éclairer ces recherches, Anthropic a consulté des théologiens et des chefs religieux de diverses confessions, y compris des responsables du Vatican. Cette initiative, baptisée "bien-être des modèles", cherche à établir un cadre moral pour l'IA afin de la détourner de tout préjudice potentiel envers l'humanité.

Cependant, cette démarche a placé Anthropic en désaccord avec le Pape François. Dans son encyclique antérieure "Magnifica Humanitas", le Pape a déclaré que les intelligences artificielles n'ont pas d'expériences, ne ressentent ni joie ni douleur, et ne devraient pas remplacer l'humanité.

Des représentants d'Anthropic auraient exprimé leur mécontentement face au rejet de la conscience de l'IA par le Pape. Le Pape continue d'exprimer son opposition à l'idée d'une IA consciente, et de récents messages sur les réseaux sociaux ont renforcé la perception d'une divergence de vues concernant la sentience de l'IA.

Les discussions en ligne révèlent des réactions variées, certains critiquant Anthropic s'ils croient réellement que leur IA pourrait souffrir, tandis que d'autres soutiennent la position du Pape qui souligne la distinction entre l'intelligence humaine et artificielle.