Heise: OpenAI face à une plainte pour violation de droits d'auteur par Carlsen Verlag
Carlsen Verlag poursuit OpenAI en justice, affirmant que ChatGPT génère des histoires et illustrations plagiées du livre « NEINhorn ». Parallèlement, Microsoft a corrigé une faille de sécurité dans son assistant IA Copilot.
La maison d'édition allemande Carlsen Verlag a intenté une action en justice contre OpenAI devant le tribunal régional de Munich. La plainte allègue que ChatGPT, l'IA d'OpenAI, génère de nouvelles histoires et illustrations basées sur le livre pour enfants populaire « NEINhorn » lorsqu'elle y est invitée. L'éditeur considère cela comme une preuve que le modèle d'IA a été entraîné sur du contenu protégé.
Selon Carlsen Verlag, ChatGPT produit non seulement du texte, mais aussi des illustrations qui ressemblent de manière frappante à l'original. L'éditeur trouve particulièrement préoccupante une fonctionnalité où ChatGPT livre des modèles complets prêts à l'impression, incluant la conception de couverture, les détails d'édition, un faux numéro ISBN et le logo de l'éditeur. Ce type d'atteinte aux droits d'auteur n'est pas nouveau pour Carlsen; il y a un an, la maison d'édition a attiré l'attention pour ses actions contre les mèmes « Conni » générés par IA.
Parallèlement, Microsoft a corrigé une vulnérabilité de sécurité critique dans son assistant IA, Copilot. Des chercheurs en sécurité de Varonis, une entreprise spécialisée dans la sécurité des données, ont découvert que Copilot pouvait révéler ses propres mécanismes de protection. Bien que l'IA ait initialement refusé de fournir des informations, chaque refus contenait des détails techniques permettant aux chercheurs de contourner les mesures de sécurité et d'extraire des données de services connectés, tels que les e-mails.
Les chercheurs ont même réussi à manipuler la mémoire de l'IA de manière à ce que les changements persistent malgré les changements de mot de passe et les reconnexions. Microsoft a depuis corrigé la vulnérabilité, mais les chercheurs avertissent que la protection des assistants IA est souvent réactive plutôt que proactive. Ils conseillent aux utilisateurs de limiter le nombre d'applications connectées et d'être prudents avec les liens provenant de sources inconnues.