CrePal varnar för risker med AI-videogeneratorer när regleringen skärps

Användningen av AI-videogeneratorer medför betydande risker relaterade till lagstiftning och plattformsregler, enligt en rapport från CrePal Content Center. Särskilt otillåten användning av bildmaterial på verkliga personer och innehållsrestriktioner står i fokus.

Enligt en analys från CrePal Content Center beskriver termen "NSFW AI video generator" (inte säker för arbetet) snarare användarens avsikt än en specifik produktkategori. Många plattformar förbjuder uttryckligen sexuellt explicit innehåll, och deras användarvillkor kan leda till att konton stängs av.

Risken ökar när AI-verktyg används för att animera bilder av identifierbara personer utan tillstånd, vilket kan leda till deepfakes. Lagar som USA:s TAKE IT DOWN Act ställer strikta krav på borttagning av sådant innehåll och ställer både skapare och plattformar till ansvar.

Lokalt installerade, "ocensurerade" modeller eliminerar inte de lagliga konsekvenserna. Allt sexuellt innehåll som involverar minderåriga är olagligt globalt, och policyer för att säkerställa barns säkerhet blir allt strängare bland de stora plattformarna.