Yritysten tekoälyagenttien hallinta siirtyy datakerrokseen

Kun yritykset antavat tekoälyagenteille lisää autonomiaa – kyvyn suunnitella, päättää ja toimia järjestelmissä ilman ihmisen hyväksyntää jokaiselle vaiheelle – keskeiseksi kysymykseksi nousee, mikä estää agenttia suorittamasta toimenpidettä, johon sitä ei ole valtuutettu.

Yritysten on varmistettava, että agenttien toiminnot ovat vastuullisia. Tämä edellyttää sääntöjä, jotka ovat käytössä toiminnan aikana, eikä vain abstrakteja käytäntöjä. Agenttien on toimittava kontekstin mukaisesti, sillä ne eivät itsenäisesti arvioi toimintojensa seurauksia.

Vaikka agenttien ympärille voidaan rakentaa suojauksia, kuten ohjeita ja valvontaa, ne kohtaavat rakenteellisia rajoituksia. Agenttien toiminnan ennustettavuus on haastavaa, etenkin kun ne toimivat itsenäisesti. Hallinnan on oltava suoritettavissa ja sen on tapahduttava siellä, missä agentit tekevät työtään: datakerroksessa, reaaliaikaisesti ja kontekstissa.

Datakerros toimii täytäntöönpanopisteenä. Agentit käsittelevät dataa, ja käytännöt, jotka rajoittavat pääsyä tiettyihin dataluokkiin, ovat merkityksellisiä vain, jos järjestelmä voi estää pääsyn pyyntöhetkellä. Lisäksi tekoälyn auditoitavuuden on perustuttava kykyyn rekonstruoida agentin toimet, käsitelty data ja tulokset. Hallinnan sijoittaminen datakerrokseen varmistaa, että se pätee riippumatta siitä, miten agentti on rakennettu tai miten se toimii.

Yritysten tulisi luottaa järjestelmän täytäntöönpanoon mallin valintojen sijaan. Tämä saavutetaan käyttämällä jo olemassa olevia datakerroksen hallintamekanismeja, kuten rooli- ja attribuuttipohjaista pääsynvalvontaa, rivi- ja saraketason suojausta, luokittelua ja maskausta sekä politiikka koodina. Agenttien identiteetin hallinta on myös keskeistä, jotta niille voidaan määrittää oma identiteetti ja tarkoitus. Tämän tavoitteena ei ole estää agenttien hyödyllistä työtä, vaan määritellä niiden toiminnan rajat, seurattavuus ja auditoitavuus.