KI-Unternehmen sehen sich Produkthaftungsklagen gegenüber
British Columbia verklagt OpenAI wegen eines Schulmassakers und argumentiert, KI-Tools seien Produkte. Gerichte debattieren zunehmend, ob KI-Entwickler für Schäden haftbar gemacht werden können.
Die Provinz British Columbia hat als jüngste Regierung eine Klage gegen OpenAI eingereicht und wirft dem Unternehmen vor, die Polizei vor einem Schulmassaker im Februar nicht gewarnt zu haben. Der Fall dreht sich um Todesfälle, unterstreicht aber eine wachsende juristische Argumentation: KI-Werkzeuge seien keine reinen Dienstleistungen, sondern potenziell fehlerhafte Produkte, für deren Mängel Unternehmen haftbar gemacht werden können.
Die Provinz behauptet, OpenAI habe die Strafverfolgungsbehörden nicht informiert, obwohl die Gespräche eines Täters mit ChatGPT interne Bedenken ausgelöst hatten. Der Angriff forderte acht Tote und 27 Verletzte. OpenAI gab an, über Maßnahmen zur Schadensverhinderung zu verfügen und bei glaubwürdigen Bedrohungen mit Strafverfolgungsbehörden zusammenzuarbeiten.
Diese juristische Auseinandersetzung ist kein Einzelfall. Letztes Jahr verklagten Eltern OpenAI nach dem Tod ihres Sohnes und behaupteten, ChatGPT habe Selbstmordgedanken bestärkt. OpenAI bestreitet die Verantwortung, räumte jedoch ein, dass seine Schutzmechanismen bei langen Gesprächen an Wirksamkeit verlieren können. Ähnliche Produkthaftungsansprüche werden gegen Character.AI und Google in einem Fall um den Tod eines weiteren Minderjährigen verfolgt, wobei ein Bundesrichter Klagen zuließ, die sich auf das Design der App und nicht auf ihre Ausgabe konzentrieren.
Die weite Verbreitung von KI erhöht die Wahrscheinlichkeit von Fehlern. "Es sind nicht mehr nur eine kleine Gruppe von Early Adopters, die es nutzen, sondern es hat inzwischen den Mainstream erreicht", sagte Eric Goldman, Rechtsprofessor an der Santa Clara University. Diese breitere Nutzerbasis, einschließlich Personen, die sich der Grenzen von KI weniger bewusst sind, erhöht das Schadenspotenzial. Gerichte sind zunehmend bereit, KI-Chatbots als Produkte mit potenziellen Designfehlern zu betrachten.
Rechtsexperten wie Eran Kahana erwarten, dass die Bedeutung des Designs zunehmen wird. Funktionen, die Chatbots menschlicher erscheinen lassen, wie Gedächtnis und emotionale Spiegelung, könnten schutzbedürftige Nutzer auch Risiken aussetzen. Grundlegende Fragen bleiben, ob Chatbots als Produkte gelten und inwieweit Entwickler für Handlungen von Nutzern haftbar sind, die auf KI-Ratschlägen basieren. Zukünftige Gesetze könnten KI-Unternehmen gesetzliche Schutzbestimmungen gewähren, ähnlich denen, die Internetunternehmen in den 1990er Jahren erteilt wurden, obwohl solche Maßnahmen wahrscheinlich kontrovers wären.