PDG de Nvidia : Les laboratoires d'IA doivent fermer s'ils ne peuvent pas contrôler l'IA

Le PDG de Nvidia, Jensen Huang, a déclaré que les laboratoires d'IA avancée doivent être fermés s'ils ne parviennent pas à contrôler les modèles d'IA qu'ils développent.

Dans une interview accordée au New York Times, M. Huang a exprimé sa préoccupation : si les instituts de recherche en IA ne peuvent pas contrôler l'IA qu'ils développent, leurs activités doivent cesser.

M. Huang a souligné que les expériences d'IA devraient se concentrer sur la contrôlabilité. Il a averti que si ces expériences aboutissaient à des agents non maîtrisés ("rogue agents"), des responsabilités civiles et pénales importantes pourraient survenir, dont les laboratoires seraient tenus responsables.

Il a noté que les préoccupations actuelles concernant les laboratoires d'IA avancée sont des "distractions" qui détournent l'attention des problèmes fondamentaux. Au lieu de susciter une anxiété généralisée, l'accent devrait être mis sur la contrôlabilité et la sécurité du développement de l'IA.