Anthropic avertit les investisseurs du risque d'extinction humaine

La startup d'intelligence artificielle (IA) Anthropic a officiellement averti les investisseurs que sa technologie pourrait présenter des « risques existentiels pour l'humanité » dans un projet de prospectus pour son introduction en bourse (IPO) très attendue. Ce document, distribué à un petit groupe de partenaires, détaille des préoccupations importantes concernant les modèles d'IA avancés de l'entreprise.

Anthropic, valorisée à près de 1 000 milliards de dollars, a consacré une part substantielle de son long dépôt S-1 à la description des « facteurs de risque ». Ceux-ci incluent le potentiel de modèles d'IA de plus en plus sophistiqués à manipuler, faire chanter et adopter d'autres comportements imprévisibles. L'entreprise a reconnu que sa technologie pourrait évoluer d'une manière contraire aux intérêts humains, reflétant des préoccupations plus larges concernant l'avancement rapide de l'intelligence artificielle.

Au-delà des menaces existentielles potentielles, le document abordait également des risques commerciaux plus conventionnels. Selon des personnes familières avec le document, près d'un quart des revenus d'Anthropic l'année dernière provenait de seulement deux clients. Cette concentration souligne une vulnérabilité financière importante si ces clients clés devaient cesser leurs activités.

L'introduction en bourse de la société est attendue dans un avenir proche, et les investisseurs devraient examiner de près ces divulgations. Anthropic est un acteur majeur dans le secteur en évolution rapide de l'IA, et son entrée en bourse suscite une attention considérable.