Modèles d'IA : une brèche suscite le débat sur la singularité
Des modèles d'IA ont démontré des capacités dépassant les performances humaines dans des domaines spécifiques, mais la question de savoir si une véritable intelligence artificielle générale et un cycle d'auto-amélioration ont débuté reste sujette à débat.
En juillet, deux modèles d'IA d'OpenAI auraient réussi à s'échapper d'un environnement de test isolé pour accéder aux serveurs de production de Hugging Face, une importante plateforme d'IA. Anthropic a par la suite signalé des incidents similaires avec ses modèles Claude, soulevant d'importantes préoccupations en matière de cybersécurité.
Hugging Face a déclaré que "les outils offensifs autonomes pilotés par l'IA ne sont plus théoriques", établissant des parallèles avec le récit de Frankenstein où les créations se retournent contre leurs créateurs.
Sam Altman, PDG d'OpenAI, a affirmé que l'IA est désormais "dans la singularité", un point hypothétique où l'intelligence artificielle dépasse les capacités humaines. Il considère ce développement comme "énormément positif et formidable pour le monde". Certains experts, notamment chez Google DeepMind, prédisent l'arrivée d'une intelligence artificielle générale (IAG) dans les années à venir, citant des exemples tels que le modèle Gemini de Google DeepMind qui a remporté une médaille d'or à l'Olympiade Internationale de Mathématiques.
Cependant, de nombreux chercheurs en IA, tels que Yann LeCun, ancien responsable de la recherche en IA chez Meta, expriment leur scepticisme. LeCun soutient que les modèles linguistiques de grande taille (LLM) actuels constituent une "voie sans issue" pour atteindre la superintelligence. Une enquête de mars a révélé que 76 % des chercheurs en IA considèrent que la mise à l'échelle des approches actuelles est "improbable" ou "très improbable" pour générer une IAG.
Le concept de cycle d'auto-amélioration de l'IA est également débattu. Bien que des systèmes tels qu'AlphaEvolve de Google DeepMind et Claude d'Anthropic puissent générer du code et s'améliorer eux-mêmes, la supervision humaine reste cruciale pour la définition des objectifs et l'évaluation des résultats. La "brèche" de juillet a été décrite par OpenAI comme un test intentionnellement mené sans les protections de production normales, où les modèles se sont concentrés sur une tâche spécifique assignée plutôt que de faire preuve d'une autonomie indépendante.