Apple varnar för risker med autonoma AI-agenter
I sin senaste årsredovisning lyfter Apple fram osäkerheten kring AI-agenter som kan agera på oavsiktliga eller oförutsägbara sätt.
Apple har i sin årsredovisning identifierat AI-agenter som en potentiell riskfaktor för företagets verksamhet. Teknikjätten varnar för att dessa autonoma system kan utföra åtgärder som användaren inte auktoriserat, såsom att ändra kod eller genomföra transaktioner, vilket kan leda till både juridiska problem och skadat rykte.
Riskbeskrivningen återspeglar en bredare trend inom teknikindustrin där autonoma agenter blir allt vanligare. Apple betonar att deras möjligheter att övervaka och kontrollera tredjepartsverktyg är begränsade. Tidigare under hösten införde Apple hårdare restriktioner för full diskåtkomst i macOS som en direkt säkerhetsåtgärd mot potentiellt skadliga agentfunktioner.
VD John Ternus har uppgett att företaget ser potential i att utveckla Siris funktionalitet, men poängterar att användarsäkerhet och kontroll är centrala prioriteringar. Apple ansluter sig därmed till en växande skara företag, inklusive Amazon och JPMorgan, som nu ser över sina säkerhetsprotokoll till följd av den snabba utvecklingen inom agentbaserad AI.