Geoffrey Hinton, pionnier de l'IA : 10% de risque d'extinction humaine
Le pionnier de l'IA, Geoffrey Hinton, estime que la probabilité d'une extinction humaine due à l'intelligence artificielle est difficile à estimer mais non nulle. Il avance un risque de 10% et s'inquiète d'un calendrier raccourci pour de telles catastrophes.
Geoffrey Hinton, souvent surnommé le "parrain de l'IA", a exprimé de profondes inquiétudes quant aux risques existentiels potentiels posés par l'intelligence artificielle. Dans une récente interview accordée à la BBC, Hinton a indiqué que, bien qu'il soit difficile de quantifier la probabilité exacte que l'IA conduise à l'extinction humaine, le risque n'est pas négligeable. Il a suggéré qu'une probabilité de 10 % constituait une estimation plausible, tout en reconnaissant la difficulté inhérente à l'attribution de tels chiffres.
Hinton a considérablement réduit son calendrier pour une catastrophe potentielle induite par l'IA. Auparavant, il estimait que cela pourrait prendre 30 à 50 ans ; il estime désormais que le délai pourrait être aussi court que 10 ans, voire moins. Il a cité des risques allant des cyberattaques sophistiquées au développement de virus mortels par des systèmes d'IA. Cette accélération du calendrier est en partie attribuée aux investissements substantiels des principales entreprises d'IA telles qu'Anthropic et OpenAI, qui développent rapidement leurs grands modèles de langage.
Ces préoccupations sont reprises par d'autres chercheurs en IA. Jacob Coxon, un ancien chercheur principal en sécurité de l'IA chez Anthropic, aurait déclaré qu'il y a "plus de 10 % de chances de tuer tout le monde" au cours de la prochaine décennie. Coxon a également exprimé que les principaux développeurs d'IA "jouent avec nos vies" et que de nombreux dirigeants partagent en privé de profondes craintes quant à la trajectoire de la technologie, malgré des déclarations publiques plus prudentes.
Hinton continue de plaider en faveur d'une réglementation mondiale pour atténuer ces risques. Il estime que les nations partagent un intérêt commun à assurer la survie de l'humanité, ce qui pourrait favoriser la coopération internationale en matière de sécurité de l'IA. La question cruciale, a-t-il noté, est de savoir si cette coopération pourra être réalisée à temps pour éviter une catastrophe potentielle.