L'IA et l'apprentissage : Les risques de l'adaptation en temps réel
Les modèles d'IA actuels n'apprennent pas de chaque interaction utilisateur en temps réel, un choix délibéré privilégiant la sécurité et la prévisibilité à une adaptation immédiate basée sur les retours des utilisateurs.
Contrairement au cerveau humain, qui se reconfigure constamment grâce à la neuroplasticité, les modèles actuels d'intelligence artificielle n'apprennent pas des conversations individuelles. Leur base de connaissances reste statique après une phase initiale d'entraînement, ce qui signifie que chaque interaction avec une IA laisse le modèle sous-jacent inchangé.
Le cerveau humain modifie physiquement les connexions entre ses cellules à chaque expérience, erreur ou embarras. L'intelligence artificielle, cependant, n'a pas cette adaptation continue. Comme l'analyse Inc. Magazine, les poids qui constituent la compréhension du monde par une IA ne changent pas, peu importe le nombre de personnes qui interagissent avec elle.
Bien qu'il soit techniquement possible de mettre en œuvre un apprentissage en temps réel, où l'IA s'ajuste en fonction des réponses des utilisateurs – récompensant les retours positifs et pénalisant les négatifs – cette approche présente des risques importants. Le chatbot Tay de Microsoft en est un exemple édifiant ; il a rapidement absorbé des contenus toxiques d'utilisateurs de Twitter et a été retiré du service en l'espace d'une journée.
Outre le risque d'absorber des données nuisibles, les systèmes d'apprentissage direct font face à des problèmes tels que l'"oubli catastrophique", où de nouvelles informations effacent les connaissances antérieures. Fournir à chaque utilisateur un modèle en constante mise à jour est également actuellement impraticable en raison des exigences informatiques. La conception actuelle, un modèle fixe avec une couche de mémoire temporaire, est donc un compromis délibéré pour assurer la prévisibilité et la traçabilité.