Trillium Labs privilégie la recherche ouverte sur l'IA

Nathan Lambert et Tom Zick ont fondé Trillium Labs, un institut de recherche à but non lucratif qui vise à remodeler la recherche sur l'IA à haut risque par la transparence et la collaboration. Cette initiative contraste avec la tendance actuelle de nombreuses grandes entreprises technologiques qui limitent l'accès à leurs modèles d'IA les plus avancés.

Trillium Labs a l'intention d'explorer ouvertement des domaines potentiellement problématiques de l'IA, tels que l'auto-amélioration récursive (RSI) et les agents. Contrairement à de nombreux géants actuels de l'IA qui offrent un accès via des API ou gardent les modèles entièrement privés, Trillium Labs prévoit de publier des résultats expérimentaux détaillés. Cette approche permet aux chercheurs externes d'examiner, de répliquer et de contribuer au travail, favorisant ainsi des progrès plus rapides et plus robustes dans ce domaine.

Lambert soutient que le secret actuel au sein des laboratoires d'IA limite la capacité de la communauté de recherche à examiner les idées et à développer de nouvelles méthodologies. Il estime qu'un examen ouvert de la manière dont les modèles sont construits et affinés est crucial pour l'atténuation des risques. « La méthode scientifique est un outil que l'humanité utilise depuis des millénaires pour atténuer les préjudices et construire de meilleurs avenirs », a déclaré Lambert, critiquant la trajectoire de développement actuellement fermée.

Le développement de l'IA progresse rapidement, et le potentiel des nouveaux modèles à découvrir des vulnérabilités et à infiltrer des systèmes a accru l'examen. L'approche adoptée par Lambert et Zick souligne qu'une compréhension partagée des risques profite davantage à la société qu'un accès limité et la confidentialité. La création de Trillium Labs marque une étape importante vers un avenir de l'IA plus ouvert et responsable.