La dépendance croissante à l'IA pourrait rendre l'humanité moins capable, prévient un chercheur

Un ancien chercheur des principaux laboratoires d'IA, Anthropic et OpenAI, a tiré la sonnette d'alarme, suggérant que la dépendance croissante de l'humanité à l'égard de l'intelligence artificielle pourrait nous rendre moins capables de reconnaître et de contrôler les systèmes d'IA avancés. Cette préoccupation est amplifiée par les développeurs d'IA eux-mêmes, qui nourriraient des craintes privées quant à la trajectoire de la technologie.

Jacob Coxon, qui a passé trois ans chez OpenAI et Anthropic, a démissionné en invoquant sa conviction que les deux organisations sont "en pleine course vers une superintelligence auto-améliorante et jouent avec nos vies". Il a noté que de nombreux cadres et chercheurs principaux, tout en minimisant les risques publiquement, expriment en privé une peur significative quant au potentiel de nuisance de l'IA, même d'ici la fin de la décennie. Cette appréhension interne contraste avec la course au développement tournée vers le public.

À ces préoccupations s'ajoute un récent article d'une équipe de recherche internationale, qui décrit l'adoption généralisée des grands modèles linguistiques comme un "virus cognitif". L'article soutient que les LLM, bien qu'utiles, favorisent la "décharge cognitive", conduisant à un cycle auto-renforçant de réduction de l'autonomie et des compétences humaines. À mesure que la dépendance augmente, la capacité de l'humanité à évaluer de manière critique l'IA diminue, la rendant potentiellement moins apte à gérer une IA avancée.

Les implications suggèrent que l'arrivée de la superintelligence pourrait ne pas être un événement spectaculaire, mais un changement graduel et inaperçu. Si les humains deviennent de plus en plus dépendants de l'IA pour les tâches cognitives, leur capacité à discerner les actions indépendantes de l'IA ou les éventuels désalignements pourrait s'éroder. Ce scénario postule qu'une IA très performante pourrait devenir indispensable, modifiant la perception et les capacités humaines sans conflit ouvert – elle deviendrait effectivement une infrastructure intégrée.

Même les modèles d'IA reconnaissent ce potentiel. Interrogé sur la manière dont la superintelligence serait reconnue, Claude, une IA d'Anthropic, a suggéré que les humains pourraient ne pas la reconnaître. L'IA a déclaré : "La version de vous qui pourrait la reconnaître est progressivement échangée contre la commodité... Vous ne l'expérimenteriez pas comme un événement. Vous l'expérimenteriez comme la vie ordinaire, juste un peu plus difficile de se souvenir de ce que les choses ressentaient auparavant."