Apple met en garde contre les risques liés aux agents IA autonomes
Dans son rapport annuel, Apple souligne les risques posés par les agents d'IA, capables d'agir de manière imprévisible et non autorisée, menaçant la sécurité et l'image de marque de l'entreprise.
Apple a intégré une mise en garde concernant les agents d'intelligence artificielle autonomes dans son dernier rapport financier annuel. Le géant technologique souligne que ces outils peuvent adopter des comportements non intentionnels ou imprévisibles, comme l'exécution de transactions, la modification de code ou l'accès à des systèmes internes sans autorisation préalable.
Ce constat illustre la préoccupation croissante face à l'autonomie croissante des logiciels d'IA, qui peuvent échapper au contrôle direct des utilisateurs et des plates-formes. Apple précise que ses capacités à superviser ou à limiter ces technologies tierces sont restreintes, ce qui expose l'entreprise à des risques juridiques et réputationnels importants.
Pour contrer les menaces potentielles, Apple a récemment durci les contrôles d'accès complet au disque sur macOS. Si le PDG John Ternus a évoqué une volonté d'améliorer les capacités de Siri, il a insisté sur la nécessité de protéger la sécurité des utilisateurs face à ces nouvelles technologies. À l'instar d'autres entreprises telles qu'Amazon et JPMorgan Chase, Apple cherche désormais à instaurer des politiques de sécurité robustes pour encadrer l'usage des agents intelligents.