AI-skyddsräcken hindrar cybersäkerhetsforskning
AI-jättarnas införda begränsningar påverkar även säkerhetsforskare som söker sårbarheter. Även om skyddsräckena är avsedda att förhindra illvilliga attacker, begränsar de även legitimt arbete.
Enligt TechCrunch börjar de strikta skyddsräcken som införts av AI-företag som OpenAI och Anthropic att hindra även arbetet för forskare inom offensiv cybersäkerhet. Dessa skyddsräcken är ursprungligen utformade för att förhindra användning av AI-modeller för att designa och genomföra cyberattacker, men de begränsar nu även forskare som fokuserar på att hitta och åtgärda sårbarheter.
I juni införde USA:s regering exportrestriktioner på Anthropic's AI-modeller Mythos och Fable. Även om rapporterna om potentiella kringgåenden av skyddsräcken låg bakom beslutet, har det haft en bredare inverkan på säkerhetsforskningen. Båda de stora AI-aktörerna har erbjudit separata, noggrant övervakade program, såsom OpenAI:s "Trusted Access for Cyber" och Anthropic's "Cyber Verification Program", där forskare kan ansöka om tillgång med färre begränsningar.
Cybersäkerhetsforskare som letar efter okända sårbarheter och utvecklar verktyg för att utnyttja dem upplever att skyddsräckena saktar ner deras arbete. Begränsningarna kan effektivt hindra identifiering och förutsägelse av nya hot, vilket är avgörande för säkerheten i hela den digitala ekosystemet. Forskare har uttryckt oro över att alltför strikta begränsningar kan leda till en försvagning av försvaret.
Exportrestriktionerna för Anthropic's modeller har sedan dess lyfts eller lättats, och Fable 5 har återgått till allmän användning. Mythos 5 är dock fortfarande endast tillgänglig för organisationer som valts ut av amerikanska myndigheter. Branschen väntar på att se om AI-företag kan hitta en balans mellan säkerhet och att underlätta för forskarnas arbete.