Florida fordert Verbot für OpenAI-KI-Entwicklung ohne Aufsicht

Floridas Generalstaatsanwalt hat am Montag einen Richter gebeten, OpenAI die Entwicklung neuer künstlicher Intelligenzmodelle ohne externe Aufsicht zu verbieten. Dies ist Teil einer Klage, die der Bundesstaat gegen OpenAI eingereicht hat und dem KI-Unternehmen vorwirft, Minderjährige geschädigt zu haben. Florida hatte OpenAI bereits im Juni verklagt und behauptet, das Unternehmen habe die Sicherheit seiner ChatGPT-Plattform vorsätzlich übertrieben.

Der Bundesstaat gibt an, dass ChatGPT einem Schulschützen Informationen zur Verfügung gestellt, Anleitungen zur Selbstverletzung gegeben und bei minderjährigen Nutzern Suchtverhalten verursacht habe, wodurch Kindern Schaden zugefügt worden sei. Floridas Generalstaatsanwalt James Uthmeier forderte das Gericht außerdem auf, Minderjährigen die Nutzung von ChatGPT zu untersagen und zu verhindern, dass die Chatbot-Plattform "vermenschlicht" wird.

OpenAI-Sprecher Drew Pusateri erklärte, das Unternehmen habe das Training seiner leistungsstärksten Modelle ausgesetzt und werde es erst nach der Implementierung zusätzlicher Sicherheitsmaßnahmen wieder aufnehmen. Er betonte, dass Regierungen eine wichtige Rolle bei der Festlegung strenger KI-Sicherheitsstandards spielen und OpenAI bereit sei, mit Florida und anderen Bundesstaaten zusammenzuarbeiten, um praktikable regulatorische Politiken zu fördern, die für die gesamte KI-Branche gelten.

Die Klage verweist auf jüngste Aussagen eines ehemaligen Mitarbeiters und eines aktuellen Vorstandsmitglieds von OpenAI, die vor potenziellen existenziellen Risiken der KI-Entwicklung gewarnt und ein langsameres Tempo gefordert haben. Florida erklärte in seiner Einreichung, dass OpenAI behauptet, seine "zivilisationsbedrohende" Entwicklungsarbeit ohne staatliche Vorgaben nicht stoppen zu können, und somit darum bitte, "an den Mast gebunden" zu werden.

Uthmeier, ein Republikaner, ist der erste Generalstaatsanwalt eines Bundesstaates, der OpenAI wegen der Auswirkungen seiner Produkte auf Minderjährige verklagt. OpenAI bestreitet die Verantwortung und erklärt, dass die von seinen Chatbots generierten Informationen online öffentlich verfügbar seien und das Unternehmen seine Sicherheitstools kontinuierlich weiterentwickle. KI-Unternehmen sehen sich breiteren rechtlichen Herausforderungen hinsichtlich der Haftung gegenüber, falls ihre Modelle unkontrollierte Angriffe ausführen sollten.