Apple varoittaa itsenäisten tekoälyagenttien riskeistä
Apple on lisännyt vuotuiseen talousraporttiinsa varoituksen tekoälyagenteista, jotka voivat toimia odottamattomilla tavoilla ja aiheuttaa maineellisia tai oikeudellisia riskejä.
Apple on nostanut esiin tekoälyagentteihin liittyvät riskit tuoreessa vuosiraportissaan. Yhtiön mukaan autonomisesti toimivat teknologiat voivat suorittaa luvattomia toimenpiteitä, kuten muokata koodia tai käsitellä transaktioita ilman käyttäjän nimenomaista ohjeistusta.
Yhtiö korostaa, että tekoälyagenttien arvaamaton toiminta voi johtaa yhtiön vastaiseen oikeudenkäyntiin tai vahingoittaa sen liiketoimintaa. Vaikka Applella ei tällä hetkellä ole omaa agenttipohjaista tekoälytuotetta, toimitusjohtaja John Ternus on viitannut suunnitelmiin laajentaa Sirin ominaisuuksia tulevaisuudessa.
Sektorin laajempi turvallisuuskeskustelu on kiihtynyt, kun tekoälyagenttien käyttö on lisääntynyt. Apple on jo aiemmin rajoittanut macOS-käyttöjärjestelmän täyden levyn käyttöoikeuksia suojatakseen laitteita ulkopuolisten tekoälyagenttien mahdollisilta tietoturvauhailta. Muut suuryritykset, kuten Amazon ja JPMorgan Chase, kehittävät parhaillaan vastaavia turvallisuuskäytäntöjä hallitakseen agenttien pääsyä järjestelmiinsä.