Brockman, co-fondateur d'OpenAI : Seul le développement des modèles d'IA de pointe devrait ralentir

Greg Brockman, président et co-fondateur d'OpenAI, a proposé que les initiatives visant à ralentir le développement de l'intelligence artificielle soient réservées aux entreprises qui développent des modèles de grande taille de pointe.

S'exprimant dans le podcast "Odd Lots" de Bloomberg, Brockman a précisé que les appels à ralentir le développement ne s'appliquent pas aux modèles open source ou aux projets amateurs. Ils ciblent plutôt les "domaines de pointe" qui nécessitent des investissements de capitaux considérables et d'énormes ressources de supercalculateurs.

Les remarques de Brockman interviennent dans un contexte de préoccupations croissantes concernant les risques liés à l'IA. Auparavant, Dario Amodei, PDG d'Anthropic PBC, avait publié un article de blog préconisant une pause dans le développement de modèles d'IA très avancés en raison de risques croissants. Sam Altman, PDG d'OpenAI, a exprimé son soutien aux propositions d'Amodei et a indiqué que l'entreprise privilégie la sécurité et ne prévoit pas d'introduction en bourse cette année.

La discussion a suscité l'appréhension sur les marchés, les investisseurs craignant que des restrictions potentielles n'affectent les investissements dans le secteur de l'IA, qui a été un moteur clé des récents gains du marché. Brockman a également noté qu'OpenAI avait réduit la fréquence de son entraînement de modèles d'IA suite à un incident de sécurité chez Hugging Face.

Brockman a esquissé une vision d'un "mécanisme de coordination" mondial et de traités internationaux pour guider le développement à long terme de l'IA. Il estime que l'importance de la technologie transcendera finalement les individus, les entreprises et les nations, affectant le destin de toute l'humanité.