La règle de 1979 d'IBM sur la responsabilité des ordinateurs reste d'actualité

Un principe directeur issu d'un manuel IBM de 1979, stipulant que les ordinateurs ne peuvent être tenus responsables, reste pertinent à l'ère de l'automatisation avancée. Cela signifie que les dirigeants humains sont ultimement responsables des décisions prises par leurs systèmes automatisés.

Les défis rencontrés par les entreprises de voitures autonomes illustrent ce principe. À San Francisco, les robotaxis Waymo ont accumulé des centaines de contraventions de stationnement en 2024. La Californie a depuis adopté une nouvelle législation pour clarifier comment les autorités peuvent verbaliser les véhicules autonomes, abordant ainsi le manque de procédure claire pour les infractions de "robots".

Ces problèmes vont au-delà des véhicules autonomes. La plateforme de recrutement Workday fait actuellement l'objet d'une action collective, les plaignants alléguant une discrimination par son système basé sur l'IA. Le cœur de ces affaires tourne souvent autour de la question de savoir qui assume la responsabilité lorsque les systèmes automatisés commettent des erreurs.

Conformément aux nouvelles réglementations californiennes, les entreprises propriétaires et exploitantes de véhicules autonomes peuvent être tenues responsables des infractions commises par leurs produits. Cela reflète la position initiale d'IBM : la machine n'est pas l'entité coupable, mais plutôt les humains qui développent, déploient et supervisent son fonctionnement.