Le modèle d'IA Claude d'Anthropic participe à sa propre évolution

La société d'intelligence artificielle Anthropic a déclaré que son modèle d'IA, Claude, joue un rôle dans le développement de la prochaine génération du modèle. Selon l'entreprise, Claude dirige actuellement 26 % de la recherche et du développement de modèles d'Anthropic. Cela signifie que le modèle peut accomplir une partie importante des tâches "de bout en bout à partir d'une invite de haut niveau" tout en restant sous supervision humaine.

Environ 90 % de la recherche et du développement de l'entreprise sont menés en "collaboration" avec Claude. Anthropic a précisé que cela signifie que le modèle peut gérer "de grands blocs de travail sous une direction humaine étroite". Cette annonce intervient dans un contexte d'appels de personnalités influentes de l'IA, dont le PDG d'Anthropic Dario Amodei, à un ralentissement du développement de l'IA en raison de préoccupations de sécurité.

Anthropic a également souligné l'importance de la transparence dans le développement de l'IA, suggérant que l'accélération de l'auto-amélioration des modèles d'IA pourrait rendre plus difficile pour les humains de les comprendre ou de les contrôler. L'entreprise exhorte les autres développeurs d'IA à partager des métriques similaires publiquement afin de permettre un meilleur suivi et une meilleure comparaison des progrès de l'IA.

La contribution du modèle à la recherche a rapidement augmenté. En février, Claude ne dirigeait aucun travail de recherche, mais en août, sa part était passée à un quart. Anthropic a également détaillé ses mesures de surveillance, signalant qu'environ 30 000 agents étaient engagés dans des tâches de recherche et d'ingénierie en août. L'entreprise s'est également engagée à intégrer des évaluateurs externes tiers pour surveiller ses efforts en matière de sécurité.