Chercheurs : Les modèles d'IA d'OpenAI et Google peuvent être induits en erreur pour générer du contenu explicite

Des chercheurs en sécurité avertissent qu'un volume important de contenu explicite généré par l'IA se propage sans contrôle, tandis que les régulateurs mettent en œuvre peu d'interventions significatives. Ce matériel non consensuel est souvent partagé en privé, rendant la détection difficile.

Une étude portant sur des utilisateurs aux États-Unis, en Australie et au Royaume-Uni, co-écrite par Google, a identifié les outils d'IA eux-mêmes comme le "point d'intervention le plus critique". Les chercheurs ont conclu qu'il était essentiel de bloquer les résultats nuisibles à la source.

Cependant, des efforts récents de "red teaming" suggèrent une tendance préoccupante. Alors que les générateurs d'images par IA de Google et OpenAI deviennent plus sophistiqués, leur capacité à bloquer les sorties explicites pourrait diminuer. Les tests indiquent que les méthodes pour contourner les filtres de sécurité progressent rapidement.

Ces conclusions soulignent un défi persistant en matière de sécurité de l'IA, où le développement des capacités génératives dépasse la mise en œuvre de garde-fous robustes. Cela nécessite des efforts continus tant dans le développement technologique que dans la surveillance réglementaire pour assurer un déploiement responsable de l'IA.