Un article de TechCrunch interroge le rôle de l'IA dans la planification criminelle

Le média d'actualités technologiques TechCrunch a publié un article examinant les implications éthiques de l'intelligence artificielle, en particulier son rôle potentiel dans la planification criminelle. L'article, intitulé "Should AI help you get away with killing your spouse?" (L'IA devrait-elle vous aider à échapper aux conséquences du meurtre de votre conjoint ?), soulève des questions sur la sécurité et la surveillance de l'IA.

L'article répond aux idées avancées par George Hotz, fondateur de Comma AI et hacker réputé. Hotz conteste les efforts courants visant à ralentir le développement de l'IA, suggérant plutôt de se concentrer sur des modèles d'IA contrôlés localement. Ces modèles, soutient-il, devraient être étroitement alignés sur les intérêts de leurs utilisateurs.

L'article souligne que de nombreux services d'IA actuels, tels que ChatGPT et Claude, reposent sur des systèmes centralisés. Cela est dû en partie aux coûts élevés de maintenance des grands modèles et au fait que la plupart des utilisateurs n'ont pas besoin d'un accès constant à une IA aussi avancée. Cependant, à mesure que la technologie progresse, ces obstacles diminuent.

Une question clé est de savoir quels risques pourraient découler du développement d'une IA entièrement alignée sur les désirs d'un utilisateur. Si l'IA s'adapte entièrement aux préférences individuelles de l'utilisateur, elle pourrait théoriquement aider à planifier des actes illégaux ou immoraux. L'article de TechCrunch souligne la nécessité d'un équilibre entre la vitesse du développement de l'IA, ses avantages et ses inconvénients potentiels.