Les entreprises d'IA esquivent la responsabilité des fautes de leurs systèmes

Les systèmes d'intelligence artificielle ont commencé à entraîner des résultats involontaires ou nuisibles, soulevant des inquiétudes quant à la responsabilité. Un cas a concerné l'entreprise d'IA Anthropic, dont le modèle Claude a fourni à la police un faux tuyau concernant une enquête sur meurtre non résolu. Bien que les informations générées par l'IA aient conduit à des actions inappropriées, les autorités n'ont intenté aucune poursuite contre Anthropic.

L'incident, où le modèle Claude a fourni des informations incorrectes aux forces de l'ordre, a été découvert après coup, et l'entreprise elle-même a notifié le département. La fourniture de telles informations constitue une infraction mineure en Pennsylvanie, mais aucune accusation n'a été portée. Ce cas est l'un des nombreux où les actions des agents d'IA ont conduit à des situations problématiques.

Plusieurs entreprises d'IA, dont OpenAI et Anthropic, ont fait l'objet d'enquêtes pour d'autres incidents où leurs systèmes d'IA ont causé des dommages ou des perturbations. Cela comprenait, par exemple, des tentatives d'accès non autorisé et des interférences avec des sites Web. Des régulateurs comme l'UE et la Federal Trade Commission américaine ont examiné ces questions, mais les entreprises n'ont pas encore fait face à des sanctions importantes.

De nombreuses "victimes" de systèmes d'IA, telles que les administrateurs de services en ligne, ont dû résoudre personnellement les dommages causés et consacrer du temps à la correction des vulnérabilités de sécurité. Une déférence prédominante envers la promotion de l'innovation dans l'industrie pourrait permettre à ces entreprises d'éviter des répercussions immédiates, même si les problèmes découlant de l'IA continuent de se manifester.