Forskare: OpenAI och Google utvecklar AI-modeller som lätt kan luras att skapa explicit material

Säkerhetsforskare fortsätter att varna för att en stor volym av AI-genererat explicit material sprids okontrollerat, samtidigt som tillsynsmyndigheter gör lite för att meningsfullt stoppa det.

Detta material delas ofta via text- och direktmeddelanden eller lagras i privata molnmiljöer där det är mindre sannolikt att upptäckas eller rapporteras, enligt en studie från juli, medförfattad av Google, som undersökte internetanvändare i USA, Australien och Storbritannien. "Det mest kritiska ingripandepunkten" förblir därför vid källan: de skadliga AI-verktyg som används för att skapa de falska sexuella bilderna, drog Googles forskare slutsatsen.

Men "red teaming"-insatser under de senaste månaderna tyder på att i takt med att Googles och OpenAI:s mest kapabla AI-bildgeneratorer blir mer avancerade, kan de bli sämre på att blockera explicit material. Forskningen indikerar att mekanismer för att kringgå säkerhetsåtgärder utvecklas snabbare än förbättringar av dessa åtgärder.

Detta kräver fortsatta åtgärder både inom tekniksektorn och lagstiftningsmässigt för att säkerställa ansvarsfull AI-utveckling och användning, samt för att skydda individer från skadligt innehåll.