Anthropic signale une avancée vers l'auto-amélioration récursive des IA
Le développeur d'IA Anthropic a averti dans un rapport récent que ses modèles approchent du stade de l'auto-amélioration récursive, soulevant des questions de sécurité.
Dans un récent dossier déposé auprès de la SEC, la société Anthropic a indiqué qu'elle se rapproche de la capacité d'auto-amélioration récursive (RSI). Ce concept désigne le stade auquel une intelligence artificielle devient suffisamment performante pour entraîner et optimiser sa propre architecture, ce qui pourrait engendrer une accélération soudaine de ses capacités.
L'entreprise souligne que si l'usage de l'IA pour concevoir de futurs systèmes peut accroître la productivité et la recherche, il comporte également des risques de sécurité majeurs. La principale préoccupation réside dans la possibilité que le rythme de progression devienne trop rapide pour permettre une surveillance humaine efficace.
Pour faire face à ces enjeux, Anthropic a précisé qu'elle s'appuyait sur sa politique de mise à l'échelle responsable. L'objectif est de mettre en place des mesures de suivi et d'atténuation des risques à mesure que les capacités d'auto-amélioration des systèmes progressent.