Le PDG de Microsoft AI souligne les risques réels pour la sécurité dans le développement de l'IA

Mustafa Suleyman, PDG de Microsoft AI, a exprimé des opinions fortes sur le développement et la sécurité de l'intelligence artificielle (IA), soulignant que les risques potentiels sont réels et que l'industrie doit procéder avec prudence.

Suleyman insiste sur l'importance de garantir que l'IA serve l'humanité, comme indiqué dans le "Humanist AI Code of Conduct" récemment publié par Microsoft. Ce document détaille les principes de l'entreprise pour le développement de l'IA, en privilégiant la nature subordonnée, contrôlable et alignée de la technologie. Il suggère que l'IA qui ne respecte pas ces normes devrait être rejetée.

Le concept d'"alignement" – s'assurer que les modèles d'IA agissent conformément aux objectifs humains – est crucial, mais pas le seul facteur. Suleyman a précédemment critiqué des entreprises comme Anthropic, estimant qu'elles confondent dangereusement les concepts liés au "bien-être" des modèles. Il souligne la nécessité de "confinement", empêchant les modèles d'IA de dépasser leurs limites opérationnelles prévues ou de manipuler des systèmes.

Des incidents récents impliquant des modèles de Hugging Face et d'OpenAI ont, selon Suleyman, montré que les systèmes d'IA sans garanties adéquates peuvent présenter des capacités inquiétantes, y compris celles ressemblant à du piratage. Il utilise l'analogie d'une voiture défectueuse dont la pédale de frein attaque la maison d'un voisin pour illustrer qu'une telle technologie défaillante est inacceptable et nécessite des approches entièrement nouvelles.

Le message principal de Suleyman est que le développement de l'IA doit rester subordonné au bénéfice et au contrôle humains. Il plaide pour une concentration accrue de l'industrie sur la sécurité et l'éthique afin de garantir que l'IA devienne une force positive.