Le cadre de test d'IA de Trump exclut les modèles ouverts

Le cadre de l'administration Trump destiné à évaluer les risques potentiels de cybersécurité liés à l'IA ne montre, selon les rapports, aucun intérêt pour les tests de modèles ouverts. Axios rapporte que les directives volontaires non seulement excluent les modèles ouverts – ce qui signifie que quiconque peut les télécharger et en inspecter les composants essentiels – mais stipulent également explicitement que le cadre ne peut pas être utilisé pour restreindre les modèles ouverts après leur publication.

Le cadre de test d'IA a été créé suite à un décret signé par le président Trump en juin. Cet ordre demandait aux entreprises d'IA de partager leurs modèles de pointe avec le gouvernement fédéral avant leur publication afin de traiter les préoccupations de cybersécurité. L'objectif était de permettre aux agences fédérales d'évaluer les risques potentiels associés à ces puissants systèmes d'IA avant leur déploiement à grande échelle.

Les critiques s'inquiètent que l'exclusion des modèles ouverts puisse saper l'efficacité du cadre. Bien que les modèles ouverts favorisent l'innovation et l'accessibilité, ils peuvent également être un vecteur de mauvaise utilisation s'ils ne sont pas correctement examinés. Laisser ces modèles en dehors du processus d'évaluation officiel pourrait créer des lacunes dans la surveillance de la sécurité.

L'approche de l'administration semble reposer sur la coopération volontaire avec les développeurs pour les modèles propriétaires, tout en évitant la réglementation de l'IA open source. Cette stratégie soulève des questions quant à sa suffisance pour gérer les implications de sécurité plus larges de la technologie d'IA en évolution rapide.