Des employés de l'IA sceptiques face aux menaces existentielles

Plusieurs employés travaillant sur l'intelligence artificielle (IA) dans de grandes entreprises se montrent sceptiques quant aux affirmations selon lesquelles un développement incontrôlé de l'IA pourrait conduire à la disparition de l'humanité. Des employés s'exprimant anonymement auprès de la BBC, issus d'entreprises telles qu'OpenAI, Meta et DeepMind, ont qualifié les récentes mises en garde de haut niveau de « risibles » et de « pas réelles ».

Ces craintes existent depuis des décennies, mais selon les sources anonymes, les nouvelles affirmations manquent souvent de détails et sont basées sur des « sauts majeurs dans le raisonnement ou des circonstances hypothétiques ». Un ancien employé d'OpenAI, qui connaissait l'un des récents promoteurs les plus en vue, a exprimé son amusement face à la discussion renouvelée sur les menaces existentielles, notant que les détails sur la manière dont une IA pourrait représenter un tel danger sont souvent vagues. Rishub Jain, anciennement chez DeepMind et aujourd'hui fondateur de la société de sécurité IA Sampura Research, a également décrit le sentiment prédominant au sein des entreprises d'IA concernant les nouvelles craintes comme « a définitivement été un peu taquin ».

Malgré la réaction légère face aux menaces existentielles, il existe un consensus parmi les travailleurs et les chercheurs en IA concernant les risques plus immédiats et tangibles posés par la technologie. Ceux-ci comprennent les vulnérabilités potentielles qui pourraient être exploitées pour contourner les mesures de sécurité, ainsi que les préoccupations éthiques entourant l'utilisation croissante de l'IA dans les applications militaires. La discussion parmi les experts est décrite comme plus nuancée, avec un large consensus sur le fait que divers risques doivent être pris en compte et atténués.