Un chercheur d'Anthropic estime qu'il y a plus de 10 % de risques que l'IA 'tue tous les humains'

Un chercheur senior en sécurité chez Anthropic, entreprise spécialisée dans l'intelligence artificielle (IA), a déclaré qu'il existe une probabilité supérieure à 10 % que l'IA "puisse tuer tous les humains" d'ici la fin de la décennie. Cet avertissement survient quelques heures seulement après la démission d'un collègue, qui a invoqué la crainte que les laboratoires d'IA et leurs rivaux ne se précipitent de manière imprudente pour construire des "systèmes surhumains" qu'ils ne peuvent contrôler.

Jacob Coxon, un chercheur ayant précédemment entraîné des systèmes d'IA chez Anthropic et OpenAI, a annoncé son départ sur X. Il a accusé les deux entreprises d'IA de "se précipiter directement vers une superintelligence auto-améliorante et de jouer avec nos vies", critiquant ce qu'il a décrit comme une approche laxiste en matière de sécurité.

La démission de Coxon et son évaluation des risques soulignent les préoccupations croissantes en matière de sécurité entourant le développement de l'IA. Les experts du domaine discutent depuis longtemps des risques potentiels associés aux systèmes d'IA qui dépassent l'intelligence humaine, y compris la perte de contrôle et les conséquences imprévues.

Anthropic n'a pas commenté directement les affirmations spécifiques de Coxon ni son départ. L'entreprise a cependant souligné par le passé son engagement à développer l'IA de manière sûre et responsable. Néanmoins, la concurrence intense et le rythme rapide des progrès dans le secteur de l'IA soulèvent des questions quant au maintien des normes de sécurité.