CrePal erklärt KI-generierte NSFW-Bilder: Technik, Grenzen und Rechtslage
Eine Analyse von CrePal beleuchtet die Technologie hinter KI-generierten NSFW-Bildern, deren technische Grenzen und die sich entwickelnde rechtliche Situation. Der Bericht thematisiert auch die Folgen von Vorfällen wie dem Grok-Fall.
CrePals Content Center hat eine ausführliche Analyse zur Erstellung von KI-generierten „Not Safe For Work“ (NSFW) Bildern veröffentlicht. Der Bericht erklärt die zugrundeliegende Technologie, die technischen Grenzen und die daraus resultierenden rechtlichen Herausforderungen.
Laut der Analyse lernen KI-Bildmodelle durch die Verarbeitung riesiger Datensätze von Bild-Text-Paaren, die auch Inhalte für Erwachsene umfassen. Die Modelle gleichen statistische Muster ab, um auf Basis von Eingabeaufforderungen Bilder zu erstellen, ohne die Natur des Inhalts zu verstehen. Dies erschwert die Effektivität von Inhaltsfiltern und die Entwicklung geeigneter rechtlicher Rahmenbedingungen.
Die Analyse unterteilt KI-NSFW-Bilder in drei Kategorien: vollständig synthetisch, welche gänzlich neue Kreationen sind; bildbasiert („likeness-based“), die reale Personen in expliziten Szenarien darstellen und juristisch stark beachtet werden; sowie Stilübertragung oder „Nudification“, bei der bestehende Bilder verändert werden. Letzteres wurde nach dem Grok-Vorfall Ende 2025 relevant, als Nutzer bearbeitete explizite Bilder von Frauen erstellten.
Technologisch werden diese Bilder oft mittels Diffusionsmodellen erzeugt, die durch Textanweisungen gesteuert werden. Eine Technik namens LoRA (Low-Rank Adaptation) ermöglicht eine effiziente Spezialisierung dieser Modelle für bestimmte Stile oder Charaktere, wird aber auch zur Nachbildung des Aussehens realer Personen genutzt, was ernste ethische und rechtliche Bedenken aufwirft.
Die Hauptquellen für solche Bilder sind lokal ausgeführte Open-Source-Modelle, spezialisierte KI-Plattformen für Erwachsene und der Missbrauch von Konsumentenwerkzeugen. Gemeinschaften rund um Open-Source-KI sind häufig Verteilerzentren für unzensierte Inhalte.