Hugging Face ifrågasätter effektiviteten hos inbäddade AI-utvärderare
Hugging Faces policychef varnar för att placera externa observatörer inom AI-företag som en lösning på säkerhetsproblem.
Idén om inbäddade utvärderare, där neutrala tredjeparter placeras inuti AI-laboratorier för att övervaka verksamheten, möter skepsis från Hugging Face. Företagets policychef menar att detta tillvägagångssätt långt ifrån är en okomplicerad lösning för branschens säkerhetsrisker.
Diskussionen om extern övervakning har tagit fart i takt med att AI-utvecklare mött återkommande kritik gällande säkerhetsincidenter och etiska risker med sin teknik. Förslaget har presenterats som ett sätt att öka insynen i slutna utvecklingsmiljöer.
Trots goda intentioner pekar experter på de praktiska och organisatoriska svårigheterna med att bibehålla verklig oberoende inifrån ett företag. Utmaningen för branschen ligger snarare i att skapa robusta ramverk för ansvarsutkrävande som sträcker sig utanför enskilda labbmiljöer.