Les dirigeants de l'IA appellent à un ralentissement du développement face aux préoccupations de sécurité
Des chercheurs et dirigeants de premier plan en intelligence artificielle appellent à un ralentissement coordonné du développement des systèmes d'IA avancés, citant des dangers potentiels et la nécessité de mesures de sécurité accrues.
Les principaux laboratoires de recherche en IA signalent un changement de stratégie, passant d'une course compétitive intense à des appels à une décélération coordonnée dans le développement de l'intelligence artificielle de pointe. Ce changement de ton fait suite à des préoccupations croissantes concernant les risques potentiels associés à des capacités d'IA de plus en plus puissantes et imprévisibles.
Dario Amodei, PDG d'Anthropic, a publié un essai dans lequel il préconise un ralentissement délibéré des améliorations des modèles d'IA. Il a averti que les pressions commerciales pourraient créer une 'course vers le bas', exacerbant les risques catastrophiques. L'essai a souligné la nécessité de traiter le potentiel de l'IA à devenir incontrôlable.
Cet appel à la prudence a rapidement été relayé par d'autres personnalités éminentes de l'industrie de l'IA. Sam Altman, PDG d'OpenAI, a exprimé son accord, mentionnant des discussions internes au sein de son entreprise sur le rythme de développement. Demis Hassabis, PDG de Google DeepMind, a soutenu la position d'Amodei et réitéré son soutien à un organisme de normalisation à l'échelle de l'industrie.
Satya Nadella, PDG de Microsoft, a également commenté que l'entreprise soutient la recherche et un rythme délibéré pour assurer l'alignement de l'IA. Ces déclarations interviennent alors que l'industrie est confrontée aux implications éthiques et aux impacts sociétaux potentiels de l'IA avancée, soulignant une concentration croissante sur la sécurité et le développement responsable plutôt que sur une progression rapide.