CrePal analyserar AI-bildgeneratorers policyer för NSFW-innehåll

CrePal har publicerat en artikel som djupdyker i policysystemen för olika AI-bildgeneratorer när det gäller icke-arbetsplatssäkert (NSFW) innehåll. Artikeln belyser att antalet plattformar som faktiskt tillåter NSFW-innehåll är betydligt lägre än vad som ofta framställs online, och att "tillåtelse" ofta kommer med betydande begränsningar.

Författaren förklarar att termen NSFW kan omfatta flera distinkta kategorier, såsom konstnärlig nakenhet, suggestivt innehåll, explicit sexuellt material och våldsamt innehåll. Olika plattformar tillåter eller förbjuder endast vissa av dessa. Dessutom kan det finnas skillnader mellan publicerade policyer och faktiskt modellbeteende. Innehåll som är tillåtet inom en värdbaserad plattform kan skilja sig från vad som tillåts med lokalt installerade open source-modeller.

Artikeln identifierar tre huvudtyper av AI-bildplattformar baserat på deras NSFW-policyer: strikt filtrerade (t.ex. Midjourney, Adobe Firefly, DALL·E), värdbaserade plattformar som hanterar moget innehåll (t.ex. Grok Imagine, Civitai) och lokala samt open source-lösningar (t.ex. Stable Diffusion). De strikt filtrerade plattformarna är lämpliga för företag och allmänna kampanjer, medan lokala lösningar erbjuder större frihet men också större ansvar för innehållsskaparen.

CrePal tillhandahåller också en steg-för-steg-guide för att själv granska policyer: sök officiella dokument, använd relevanta nyckelord, kontrollera regionala begränsningar, testa med säkra gränsprompter och granska sektionerna om verkställighet. Företaget betonar att plattformar kan ändra sina policyer oväntat, och regelbunden granskning rekommenderas.