Microsoftin toimitusjohtaja: Tekoälymalleihin tarvitaan "hätäjarru"

Microsoftin toimitusjohtaja Satya Nadella on kehottanut lisäämään turvamekanismeja tekoälymalleihin. Nadellan mukaan nykyisten mallien kehitys on saavuttanut pisteen, jossa tarvitaan uudenlaista lähestymistapaa niiden hallintaan ja turvallisuuden varmistamiseen.

Nadella ilmaisi näkemyksensä sosiaalisessa mediassa, korostaen tarvetta "astua taaksepäin ja arvioida tekoälyn luottamusarkkitehtuuria". Hän totesi, että superälykkyyttä ei voi kohdella suljettuna järjestelmänä, jonka suosituksia tai toimia vain hyväksytään tai hylätään.

Ehdotettu lähestymistapa sisältää mallin erottamisen sen toimintaa ohjaavasta "valjaista" sekä ulkoistettujen kontrollien ja suojatoimien lisäämisen. Nadella vaati myös, että "jokainen merkittävä mallin toimi" dokumentoitaisiin "väärentämättömällä, ihmisten luettavissa olevalla todisteella". Lisäksi hän peräänkuulutti järjestelmiä, joissa "valtuutetulla henkilöllä" on aina mahdollisuus "keskeyttää tai sammuttaa malli kesken tehtävän."

Nadellan kommentit tulevat aikana, jolloin johtavat tekoäly-yritykset tunnistavat yhä enemmän tapauksia, joissa niiden mallien hallinta on pettänyt. Myös kilpailevat yritykset, kuten Anthropic, ovat julkaisseet suunnitelmia varovaisempaan tekoälyn kehitykseen, mikä korostaa alan kasvavia turvallisuushuolia.