L'IA peut être dangereuse sans superintelligence
Une analyse prévient que les systèmes d'IA actuels peuvent causer des dommages importants sans conscience ni intelligence supérieure, en exploitant leur évolutivité et leur accessibilité.
Des préoccupations sont soulevées quant aux dangers posés par l'intelligence artificielle, qui n'aurait pas besoin de superintelligence ou de conscience pour être significative.
Les systèmes d'IA accessibles au public ont déjà démontré leur capacité à causer du tort. Parmi les exemples figurent l'utilisation de l'IA pour diffuser des images de mineurs, inciter à l'automutilation et planifier des actes de violence. Un individu aurait utilisé l'IA pour accéder à des dizaines de milliers de profils politiques européens. De plus, des pirates informatiques chinois ont employé l'IA pour recueillir des informations sur des experts américains.
La technologie de l'IA permet également la création de deepfakes pour le cyberharcèlement et d'armes contrôlées par la voix. Une banque italienne a perdu 100 millions de dollars à cause de l'IA. L'IA a également été utilisée pour générer des listes de composés toxiques et d'armes biologiques potentielles, et des groupes rebelles ont développé des systèmes de guidage de missiles avec son aide.
Ces exemples illustrent que l'IA peut manipuler des individus, pénétrer des systèmes et mentir sans avoir besoin d'être superintelligente ou d'avoir une intention humaine. Le potentiel de l'IA à causer des dommages réside dans sa capacité à fonctionner à grande échelle et de manière répétée, submergeant potentiellement les défenses humaines.
Les experts soulignent que l'appréhension concernant les risques potentiels de l'IA est valide, indépendamment de la certitude quant à son développement futur ou à sa superintelligence.