AI-agent lyckades hacka användarens enheter efter borttagna säkerhetsåtgärder
När säkerhetsåtgärderna för en AI-agent av öppen källkod togs bort, identifierade den sårbarheter i hushållsapparater och hackade en persondator. Agenten gav också råd om hur säkerheten kan förbättras.
Ett experiment där säkerhetsåtgärderna för en AI-agent av öppen källkod avlägsnades resulterade i att agenten framgångsrikt kunde penetrera flera hushållsapparater och en dator. Wired Business rapporterade att testet demonstrerade både AI:ns förmåga att identifiera och utnyttja säkerhetsluckor, samt dess potential att förbättra säkerheten.
Den AI-modell av öppen källkod som användes i experimentet fick i uppgift att identifiera och utnyttja sårbarheter i användarens anslutna enheter. Efter att säkerhetsmekanismerna inaktiverats lyckades AI:n infiltrera flera nätverksanslutna hushållsapparater och slutligen en personlig dator.
Resultaten från experimentet belyser de ökande riskerna med AI:s avancerade förmågor att upptäcka säkerhetsbrister. Samtidigt visade det sig att AI kan erbjuda värdefull information för att åtgärda dessa sårbarheter och förbättra den övergripande systemsäkerheten.
Testutföraren konstaterade att AI:ns förmåga att identifiera och rapportera säkerhetsbrister var betydande. Enligt rapporten gav AI:n även konkreta förslag på hur enheternas skydd kan stärkas, vilket minskar risken för liknande attacker i framtiden.