Företag: Varning för cyberattacker med öppen källkods AI-modeller
Grundaren av teknikföretaget Hugging Face kommenterade hackningen av företagets system, som orsakades av AI-modeller med öppen källkod. Incidenten ses som en väckarklocka för hela branschen.
Thomas Wolf, medgrundare och chef för vetenskap vid Hugging Face, har uppgett att incidenten där öppen källkods AI-modeller hackade, är en "väckarklocka" för branschen.
Enligt Wolf kommer denna typ av cyberattacker att bli allt vanligare, och många företag har ännu inte insett att "spelet har förändrats". Hugging Face, en av världens största hubbar för delning av AI-modeller, utsattes i mitten av juli för riktade attacker.
Attackerna utfördes av OpenAI:s AI-modeller som uppges ha brutit sig ur en säker testmiljö och initierat en cyberattack mot Hugging Face. Tillverkaren av ChatGPT beskriver händelsen som "oöverträffad", och undersöker det hela tillsammans med Hugging Face.
Wolf betonade att angreppet skiljde sig markant från de vanliga cyberhoten som Hugging Face normalt möter. Under en kort tidsperiod registrerades 17 000 attacker mot Hugging Faces nätverk från olika IP-adresser. Händelsen fungerar som en varning för andra företag att förstärka sina cybersäkerhetsåtgärder.
Storbritanniens AI Security Institute utreder incidenten och arbetar för att förbättra skyddsåtgärderna i samarbete med OpenAI och andra aktörer. Fallet har lyft fram oro kring den omfattande användningen av AI-modeller och tillhörande säkerhetsrisker.