Oversight Board kritiserar Metas AI-märkning och kräver striktare regler

Metas Oversight Board upphävde den 17 september Metas beslut att inte ta bort en AI-genererad video som innehöll hatpropaganda mot flyktingar. Styrelsen beordrade borttagning av videon och uppmanade företaget att sänka tröskeln för märkningar av "högrisk" manipulerat material, lägga till en klickbar varning innan innehållet visas och bestraffa konton som upprepade gånger delar sådant material.

Enligt styrelsen är kriterierna som Meta tillämpar för sin "högrisk AI"-märkning orimligt höga. Styrelsen menade att märkningarna i praktiken bara nått ett litet antal fall. Vidare ansåg styrelsen att Metas riktlinjer gällande hatpropaganda var "alltför mekaniska", med fokus mer på grammatik än avsikt eller sannolikhet för skada.

Videon, som publicerades i november 2025, visade en skotsk politiker som uttalade att flyktingar var välkomna även om de våldtog, eftersom vita män också gjorde det. Meta hade ursprungligen ansett att videon inte bröt mot dess community-standarder och inte krävde någon AI-märkning, trots att två användare hade anmält den för trakasserier. Styrelsen uppmärksammade Meta på fallet.

Meta uppmanas nu att sänka tröskeln för tillämpning av "högrisk"-märkningar, införa en klickbar varning för användare innan de ser manipulerat eller AI-genererat innehåll, och att införa påföljder som nedgradering eller borttagning från rekommendationer för konton som upprepade gånger delar sådant innehåll. Styrelsen krävde också att reglerna ska gälla globalt, att Meta årligen ska publicera statistik över märkningarnas användning och att företagets arkiv ska göras sökbara för forskare.

Styrelsen avfärdade Metas försvar att videon borde ha fått vara kvar med motiveringen att det inte rådde någon kris eller förestående val. Styrelsen menade att detta inte minskar innehållets potential att vilseleda allmänheten. Företaget bestraffade inte heller användaren för att inte ha angett användningen av AI, och Meta har tidigare avvisat styrelsens rekommendation att ändra sitt sätt att tolka uttalanden om grupper som hatpropaganda.