Les entreprises d'IA font face à des poursuites pour responsabilité du fait des produits

La Colombie-Britannique est devenue la dernière administration à poursuivre OpenAI, alléguant que la société n'avait pas averti la police avant une fusillade dans une école en février. L'affaire, centrée sur des pertes de vies humaines, met en lumière un argument juridique croissant : les outils d'IA ne sont pas de simples services, mais des produits potentiellement défectueux dont les entreprises peuvent être tenues responsables.

La province affirme qu'OpenAI n'a pas alerté les forces de l'ordre alors que les conversations d'un tireur avec ChatGPT avaient suscité des inquiétudes internes. L'attaque a causé huit morts et 27 blessés. OpenAI a déclaré disposer de mesures pour prévenir les préjudices et coopérer avec les forces de l'ordre en cas de menaces crédibles.

Cette surveillance juridique n'est pas isolée. L'année dernière, des parents ont poursuivi OpenAI après le décès de leur fils, affirmant que ChatGPT avait validé des pensées suicidaires. OpenAI conteste sa responsabilité, mais a reconnu que ses dispositifs de sécurité pouvaient devenir moins fiables lors de longues conversations. Des réclamations similaires en responsabilité du fait des produits sont en cours contre Character.AI et Google dans une affaire impliquant le décès d'un autre adolescent, un juge fédéral ayant autorisé des poursuites axées sur la conception de l'application plutôt que sur son contenu.

L'adoption généralisée de l'IA augmente les opportunités d'erreurs. "Ce n'est plus seulement un petit segment d'utilisateurs précoces qui l'utilisent, mais cela a maintenant atteint le grand public", a déclaré Eric Goldman, professeur de droit à la Santa Clara University. Cette base d'utilisateurs plus large, y compris ceux qui sont moins familiers avec les limites de l'IA, accroît le potentiel de préjudice. Les tribunaux sont de plus en plus disposés à considérer les chatbots d'IA comme des produits présentant des défauts de conception potentiels.

Les experts juridiques, tels qu'Eran Kahana, estiment que l'accent mis sur la conception va s'intensifier. Les fonctionnalités qui rendent les chatbots plus humains, comme la mémoire et la mirroring émotionnelle, pourraient également exposer les utilisateurs vulnérables à des risques. Des questions cruciales demeurent quant à savoir si les chatbots peuvent être considérés comme des produits et dans quelle mesure les développeurs sont responsables des actions des utilisateurs basées sur les conseils de l'IA. La législation future pourrait accorder aux entreprises d'IA des protections statutaires, similaires à celles accordées aux sociétés Internet dans les années 1990, bien que de telles mesures seraient probablement controversées.