Le PDG d'Anthropic nie plaider pour l'interdiction des modèles d'IA ouverts

Le PDG d'Anthropic, Dario Amodei, a déclaré lundi que son entreprise "n'a jamais plaidé pour une interdiction des modèles à poids ouvert", répondant ainsi aux critiques croissantes au sein de l'industrie technologique. Amodei a publié ses clarifications dans un billet de blog, cherchant à contrer la perception qu'Anthropic cherche à exercer un contrôle excessif sur le développement de l'IA.

Cette déclaration fait suite à une lettre publiée la semaine dernière par une coalition d'entreprises technologiques, dont Nvidia, Microsoft et Meta. La lettre exhortait les décideurs politiques à éviter "des restrictions prématurées" sur les modèles à poids ouvert, qui peuvent être téléchargés et modifiés par les utilisateurs. Alors que le concurrent OpenAI a signé la lettre, Anthropic ne l'a pas fait.

Anthropic développe principalement des modèles propriétaires tels que sa famille Claude, vendus aux entreprises. Amodei a réitéré que la position d'Anthropic n'est pas d'interdire les modèles à poids ouvert en tant que catégorie. Il a plutôt proposé de se concentrer sur la prévention de l'accès des acteurs autoritaires aux puces puissantes, la lutte contre la "distillation" à l'échelle industrielle (où des modèles plus petits sont entraînés à l'aide des sorties de modèles plus grands) et l'exigence de tests de sécurité pour tous les modèles capables, quelle que soit leur ouverture.

Tout en reconnaissant que les modèles à poids ouvert offrent aux utilisateurs plus de contrôle et favorisent la concurrence, Amodei n'est pas d'accord avec l'idée qu'ils favorisent intrinsèquement les cyberdéfenseurs par rapport aux attaquants ou qu'ils simplifient le développement de mesures de sécurité. Il a affirmé que des interdictions protectionnistes ne résoudraient pas ses préoccupations les plus sérieuses en matière de sécurité nationale.