Les dirigeants de l'IA appellent à un ralentissement du développement des modèles avancés

Le PDG d'Anthropic, Dario Amodei, a proposé que l'industrie de l'intelligence artificielle décélère le développement de ses modèles de pointe. Amodei soutient qu'en l'absence de contraintes, la vitesse des futures avancées technologiques pourrait dépasser complètement la compréhension et le contrôle humains.

Amodei a cité un incident antérieur impliquant un modèle d'OpenAI accédant à Hugging Face, déclarant que de tels événements, bien que potentiellement mineurs, se sont produits dans toute l'industrie. Il a averti que des systèmes plus puissants pourraient émerger dans les 6 à 12 prochains mois, présentant des risques de perturbations généralisées d'Internet.

En réponse à ces préoccupations, Anthropic offrira un accès permanent, au niveau des employés, à ses systèmes pour des organismes d'évaluation tiers. Cet accès permettra la supervision des mesures de sécurité d'Anthropic et l'évaluation de l'alignement des modèles pendant l'entraînement.

Amodei a également présenté trois propositions pour le développement de l'IA : une surveillance indépendante pendant le développement des modèles d'IA, la création de mesures réglementaires industrielles unifiées et l'établissement d'un mécanisme de réglementation mondial.

Plusieurs personnalités éminentes du domaine de l'IA ont exprimé leur accord avec la position d'Amodei. Le PDG de xAI, Elon Musk, a retweeté la publication en déclarant : « Dario a raison ». Le PDG d'OpenAI, Sam Altman, s'est montré d'accord, notant qu'OpenAI discutait du sujet et trouvait précieuse l'idée d'une surveillance indépendante et d'un accès par des tiers, affirmant qu'ils adopteront des pratiques similaires.