Le PDG d'IT Home dément avoir prôné l'interdiction des modèles d'IA open source

IT Home, une source d'information technologique couvrant les développements de l'industrie, a publié une déclaration abordant le débat en cours sur les modèles d'intelligence artificielle open source. Le PDG Dario Amodei a clarifié la position de l'entreprise, niant les allégations selon lesquelles IT Home aurait appelé à interdire les modèles d'IA dits « open-weight ».

La discussion autour de l'accessibilité et des risques de l'IA open source s'est intensifiée récemment. Alors que de nombreuses entreprises, dont les géants tels que Nvidia, Meta et Microsoft, ont signé une lettre ouverte soutenant l'IA open-weight, le silence initial d'IT Home a suscité des critiques de la part de ses pairs de l'industrie.

M. Amodei a affirmé qu'IT Home n'a jamais préconisé l'interdiction des modèles open-weight. Il considère ces modèles, à l'exception de ceux présentant des fonctionnalités dangereuses, comme des biens publics qui apportent de la valeur aux entreprises et aux développeurs sans engendrer de coûts significatifs. M. Amodei a souligné que les interdictions protectionnistes ne résolvent pas les préoccupations de sécurité nationale qui sont sa priorité.

Plutôt que de se concentrer sur les interdictions, M. Amodei a appelé à une surveillance stricte des « opérations de distillation à l'échelle industrielle ». Il préconise des tests de sécurité obligatoires pour tous les modèles d'IA, qu'ils soient open source ou closed source. Bien qu'il partage une grande partie des points soulevés dans la lettre ouverte en faveur de l'IA open source, il a mis en doute les affirmations selon lesquelles les modèles ouverts faciliteraient intrinsèquement la mise en œuvre des mesures de sécurité, ou que leur accès plus large avantagerait les défenseurs par rapport aux attaquants, suggérant que le contraire pourrait être vrai.

Pour illustrer ses préoccupations, M. Amodei a établi une analogie avec le domaine de la biotechnologie, où des modèles puissants pourraient potentiellement accélérer la création d'agents dangereux, tandis que le développement de contre-mesures pourrait prendre des années. Il a insisté sur le fait que des questions aussi critiques devraient être résolues par des tests de sécurité rigoureux avant le lancement, plutôt que par des hypothèses spéculatives.