OpenAI envisage de ralentir le développement de l'IA avancée

OpenAI, une entreprise leader dans le domaine de l'intelligence artificielle, envisage apparemment de ralentir le développement de ses systèmes d'IA les plus avancés. Selon plusieurs sources informées, le PDG Sam Altman souhaite que les autres grandes entreprises d'IA adoptent une approche similaire.

Cette réflexion aurait été partagée avec les employés d'OpenAI lors d'une récente réunion générale. Altman a reconnu qu'un tel ralentissement pourrait impliquer une coordination avec d'autres laboratoires d'IA, tout en admettant que toutes les entreprises pourraient ne pas accepter de participer.

Ces discussions surviennent dans un contexte d'inquiétudes internes croissantes au sein des principales entreprises d'IA concernant les risques croissants associés aux systèmes d'IA très avancés. Le scientifique en chef d'OpenAI, Jakub Pachocki, a précédemment mis en garde publiquement contre les dangers de l'IA, suggérant que les entreprises devraient « coordonner pour ralentir les progrès futurs des capacités si nécessaire ».

OpenAI a déjà indiqué avoir ralenti le développement de certains modèles et suspendu des formations internes spécifiques d'IA pour des raisons de sécurité. Altman avait également discuté de la "nécessité" de ralentir le développement de l'IA avec des responsables de la Maison Blanche plus tôt cette année.

Les préoccupations internes ont été amplifiées par des déclarations publiques de personnalités du secteur. Récemment, Jacob Coxon, un chercheur chez Anthropic, a démissionné, accusant ses anciens employeurs, y compris OpenAI, de « jouer avec nos vies » dans la course à l'IA superintelligente. Les commentaires de Coxon, suggérant que l'IA pourrait représenter une menace existentielle d'ici la fin de la décennie, ont largement circulé en ligne et attiré l'attention des décideurs politiques.