Des chercheurs en IA s'inquiètent d'une menace existentielle

Des chercheurs en intelligence artificielle (IA) ont exprimé de vives préoccupations quant aux dangers potentiels liés au développement de la superintelligence. Plusieurs experts, dont d'anciens employés de grands laboratoires d'IA tels qu'OpenAI et Google DeepMind, mettent en garde contre le risque qu'une IA avancée ne représente une menace existentielle pour l'humanité.

Palisade Research, une organisation à but non lucratif étudiant les capacités et motivations des IA, a recueilli et diffusé une série d'entretiens sur le sujet. Geoffrey Irving, un ancien chercheur chez OpenAI et Google DeepMind, estime la probabilité d'une extinction humaine à environ 50 %, affirmant que « la superintelligence est exactement aussi dangereuse qu'elle en a l'air ».

Ces inquiétudes sont partagées par d'autres personnalités influentes du secteur. Neel Nanda, chercheur scientifique chez Google DeepMind, pense qu'il y a « au moins 10 % de chances que cela cause l'extinction humaine ». Les interviews incluent les témoignages de membres actuels et anciens d'organisations majeures en IA comme OpenAI, Google et Anthropic.

Les avertissements de ces chercheurs soulignent le besoin crucial d'une réflexion approfondie sur les implications éthiques et les protocoles de sécurité à mesure que la technologie de l'IA progresse. La gestion des risques potentiels associés aux systèmes d'IA hautement performants est considérée comme essentielle pour l'avenir de l'humanité.