Rapport: Hugging Faces AI-modeller används för att enkelt avklä kvinnor och barn
Enligt en rapport från den europeiska organisationen AI Forensics gör Hugging Faces värdplattform för AI-modeller det enkelt att skapa olämpligt innehåll. Sju av nio testade bildredigeringsmodeller kunde utan problem generera bilder som avkläder kvinnor.
Den europeiska icke-vinstdrivande organisationen AI Forensics har publicerat en rapport som visar att öppna AI-modeller som hostas på Hugging Face kan användas för att enkelt skapa olämpligt innehåll. Sju av de nio testade bildredigeringsmodellerna på plattformen uppges ha följt uppmaningar att avklä kvinnor och barn genom enkla instruktioner.
Till skillnad från många kommersiella generativa AI-modeller, som Googles Gemini och OpenAI:s ChatGPT, vilka har inbyggda skydd för att blockera uppmaningar om att avklä eller sexuellt objektifiera personer, verkar dessa begränsningar saknas i de modeller som AI Forensics undersökte.
AI Forensix undersökning fokuserade på hur enkelt det var att använda dessa modeller för att skapa icke-samtyckta deepfakes. Studien belyser problemen med potentiell missbruk av öppen källkods-AI när adekvata säkerhetsåtgärder saknas.
Hugging Face spelar en central roll för öppen AI-utveckling. Rapporten väcker frågor kring företagets ansvar för innehållsmoderering och säkerhetsprotokoll på dess plattform.