Un pionnier de l'IA propose un processus d'approbation similaire à celui de la FDA pour l'IA

Geoffrey Hinton, une figure éminente dans la recherche sur l'intelligence artificielle, a appelé à l'établissement d'un cadre réglementaire pour l'IA qui imite les processus d'approbation de sécurité utilisés dans l'industrie pharmaceutique.

S'exprimant dans le podcast "Smart Girl Dumb Questions" mardi, Hinton a suggéré que les entreprises d'IA devraient être tenues de démontrer la sécurité de leurs produits auprès des organismes de réglementation avant qu'ils ne puissent être rendus publics. Il a établi un parallèle avec les exigences strictes auxquelles sont confrontées les sociétés pharmaceutiques lors de la recherche d'approbation auprès d'agences telles que la Food and Drug Administration (FDA) américaine, ce qui implique des investissements substantiels dans les tests et la validation.

La proposition de Hinton intervient dans un contexte de préoccupations croissantes concernant les risques potentiels associés aux systèmes d'IA avancés. Des événements récents, tels que le report présumé du lancement de son dernier modèle par OpenAI en raison de problèmes de sécurité, soulignent le débat en cours au sein de l'industrie concernant le développement et le déploiement responsables.

Le chercheur en IA a souligné le rythme accéléré du développement de l'IA, notant le potentiel d'auto-amélioration récursive où les systèmes d'IA s'améliorent eux-mêmes. Il s'est inquiété du fait que, sans une surveillance adéquate, les progrès rapides pourraient entraîner des défis importants dans un laps de temps relativement court, estimant que des problèmes potentiellement graves pourraient survenir dans un délai d'un à deux ans.