Les leaders de l'IA appellent à un développement plus lent en raison de préoccupations de sécurité

Des personnalités de premier plan dans le domaine de l'intelligence artificielle, Sam Altman d'OpenAI et Dario Amodei d'Anthropic, ont exprimé des préoccupations importantes quant au rythme accéléré du développement de l'IA, plaidant pour une décélération afin d'atténuer les conséquences potentiellement catastrophiques.

Altman a décrit sur les réseaux sociaux deux scénarios potentiels où l'avancement de l'IA pourrait entraîner de graves conséquences négatives. Le premier implique que l'humanité perde le contrôle de son avenir au profit de l'IA. Il a souligné que l'IA doit toujours servir les humains et que les mécanismes de sécurité doivent suivre le rythme des capacités évolutives.

Altman a également mis en évidence le danger de la monopolisation de l'IA. Il a averti que si une IA exceptionnellement puissante est contrôlée par une seule entité, elle pourrait imposer une vision du monde unique à tous, conduisant à un avenir dystopique. Altman a appelé les entreprises d'IA et les gouvernements à emprunter un "étroit chemin du milieu" pour éviter qu'une seule nation ou un seul laboratoire n'exerce une influence indue sur la trajectoire de la technologie.

Amodei, dans un essai publié, a fait écho à des sentiments similaires, préconisant un rythme de développement plus lent sans plaider pour un arrêt complet. Il a soutenu que ne pas développer l'IA prive l'humanité de ses avantages et risque de la placer entre les mains de régimes autoritaires, tandis qu'un développement trop rapide est imprudent.

Amodei a proposé un plan en trois étapes pour "maîtriser l'avant-garde" du développement de l'IA en toute sécurité. Cela comprend l'intégration d'évaluateurs tiers, la promotion de la coordination démocratique entre les entreprises d'IA pour établir des normes de sécurité communes et la poursuite de la coordination mondiale pour étendre ces normes aux gouvernements autoritaires, tout en reconnaissant les défis importants liés à cette dernière étape.