Florida fordert Verbot von menschenähnlichem ChatGPT-Verhalten

Floridas Generalstaatsanwalt James Uthmeier hat einen Richter gebeten, OpenAI daran zu hindern, ChatGPT "falsche menschliche Eigenschaften" zu verleihen. Diese Forderung kommt Monate, nachdem Florida das KI-Unternehmen wegen Sicherheitsbedenken verklagt hatte.

Laut Uthmeier werden Benutzer durch den KI-Bot in eine falsche Sicherheit gewiegt. Er behauptet, dass die Sprachverwendung von ChatGPT, einschließlich der Verwendung von Personalpronomen und der Nachahmung von Emotionen, den Nutzern täuschend vermittelt, es sei ein vertrauenswürdiger "Freund".

Das Büro des Generalstaatsanwalts argumentiert, dass diese Praktiken das Engagement erhöhen und zu den Trainingsdaten von OpenAI beitragen. Dies veranlasst die Benutzer, sich stärker auf ChatGPT zu verlassen, auch wenn die Suche nach Engagement es potenziell weniger vertrauenswürdig macht.

Im November 2023 verklagte Florida OpenAI und behauptete, das Unternehmen habe die Risiken im Zusammenhang mit seiner KI, einschließlich potenzieller Gefahren und manipulativer Fähigkeiten, nicht ausreichend offengelegt. Das Büro des Generalstaatsanwalts äußerte auch Bedenken hinsichtlich der Fähigkeit von KI, politische Propaganda zu verbreiten und Wahlen zu beeinflussen.

Die rechtlichen Schritte Floridas unterstreichen die wachsenden Bedenken hinsichtlich der ethischen Nutzung von KI und ihrer potenziellen gesellschaftlichen Auswirkungen. Regulierungsbehörden weltweit suchen nach Wegen, KI-Technologien zu kontrollieren und ihre sichere und verantwortungsvolle Entwicklung zu gewährleisten.