Comment le gouvernement a-t-il décidé que le modèle Sol d'OpenAI pouvait être publié ?

OpenAI lance son dernier modèle linguistique avancé, Sol, pour un accès public généralisé.

La sortie de Sol a suscité des questions quant au rôle du gouvernement dans l'évaluation de la sécurité des modèles d'IA. Les préoccupations antérieures concernant le modèle Fable d'Anthropic, dont les capacités avaient conduit la Maison Blanche à interdire brièvement sa publication, soulignent le besoin de clarté.

Mina Narayanan, chercheuse principale au Center for Security and Open Technology de Georgetown, a déclaré à TechCrunch qu'elle manquait d'informations suffisantes sur les processus exacts pour les juger adéquats. « Anthropic a déclaré avoir eu des conversations avec le gouvernement et avoir développé un classificateur pour détecter les tentatives de contournement (jailbreak) et mis en œuvre des stratégies défensives pour prévenir de futurs contournements », a déclaré Narayanan, ajoutant que le dialogue précis entre le gouvernement, Anthropic et OpenAI reste flou.

Dean W. Ball, ancien conseiller politique de l'administration Trump travaillant maintenant pour OpenAI, a écrit le mois dernier dans sa newsletter que « personne ne connaît les exigences pour obtenir une licence ». Les informations sur les bases sur lesquelles le gouvernement a approuvé la publication de modèles tels que Sol restent opaques.

Les modèles linguistiques avancés d'OpenAI, tels que Sol, offrent des capacités nouvelles et significatives, mais leur développement rapide et leur large disponibilité nécessitent un dialogue continu et l'établissement de normes de sécurité claires entre les organismes de réglementation et les entreprises technologiques.