OpenAI wird ChatGPT-Ausgaben in der EU standardmäßig mit Wasserzeichen versehen

OpenAI wird ab sofort Texte, die mit ChatGPT generiert werden, innerhalb der Europäischen Union automatisch mit Wasserzeichen versehen, wie das Unternehmen angekündigt hat. Diese Entscheidung ist eine direkte Reaktion auf den EU AI Act, der vorschreibt, dass von künstlicher Intelligenz erzeugte Inhalte identifizierbar sein müssen. Während die Wasserzeichenfunktion weltweit verfügbar sein wird, ist sie außerhalb der EU nicht standardmäßig aktiviert.

Der EU AI Act, der im August in Kraft trat, verlangt, dass von KI erzeugte Inhalte so markiert werden, dass sie erkennbar sind. OpenAI nutzt eine proprietäre Methode namens textGrain, die unmerkliche Muster in den Text einbettet, welche von einem spezialisierten Detektor identifiziert werden können. Dieser Ansatz zielt darauf ab, von KI generierten Inhalten eine nachverfolgbare Komponente zu verleihen, ohne die Ausgabequalität für menschliche Leser wesentlich zu verändern.

OpenAI plant, einer ausgewählten Gruppe von Forschern und Organisationen Zugang zu seinem textGrain-Detektionstool zu gewähren. Das Unternehmen beabsichtigt außerdem, im Laufe der Zeit ein Verfahren für andere Entitäten einzurichten, um Zugang zu beantragen. Die Wirksamkeit und Sicherheit solcher Wasserzeichensysteme sind jedoch weiterhin Gegenstand von Diskussionen, da bestehende Methoden mit ausreichend technischem Know-how als umgehbar erwiesen wurden.

Die Einführung der standardmäßigen Wasserzeichenfunktion in der EU unterstreicht die wachsende regulatorische Landschaft für künstliche Intelligenz und die Herausforderungen, denen sich Unternehmen bei der Einhaltung von Vorschriften und der technologischen Machbarkeit stellen müssen. Die langfristigen Auswirkungen dieser Maßnahme auf die KI-Inhaltsgenerierung und -erkennung sind noch nicht absehbar.