AI-företagens säkerhetsansvar: Reglering kan få oväntade effekter
Ny akademisk forskning ifrågasätter effektiviteten av regleringar riktade mot enskilda AI-företag. Det kan till och med försämra säkerheten om ansvaret flyttas framåt i utvecklingskedjan.
En ny spelteoretisk modell avslöjar att säkerhetsreglering inom AI-sektorn kan bli ineffektiv eller till och med minska säkerhetsnivån om den endast riktas mot en specifik del av utvecklingskedjan. USA:s regerings krav på Anthropic och kinesiska Moonshot AI:s agerande har väckt debatt om AI-företagens säkerhetsåtaganden och hur regleringen påverkar innovation och nationell konkurrenskraft.
Forskningen, publicerad av Jon Kleinberg, Hoda Heidari och presenterad i Fast Company, betonar att AI-produkter skapas genom en komplex process som involverar flera företag. Istället för att reglera ett enskilt företag, bör regleringen ta hänsyn till hela utvecklingskedjan. Till exempel, vid utveckling av programvara som sammanfattar medicinska journaler, skapar en stor AI-modell-leverantör basmodellen, som sedan anpassas för medicinskt bruk av ett annat företag. Säkerhetsansvaret är uppdelat mellan dessa lager, och ingen av parterna kan enkelt förutse alla risker.
Enligt studien kan reglering som endast ålägger applikationsutvecklare att säkerställa säkerhet (t.ex. kundtjänstchattbottar eller medicinska applikationer) leda till att utvecklarna av basmodeller minskar sina egna säkerhetsinvesteringar. De kan anta att företaget på en lägre nivå kommer att hantera den slutliga granskningen. Detta kan paradoxalt nog leda till sämre total säkerhet, även om det reglerade företaget ökar sina ansträngningar.
Den spelteoretiska modellen visar att svaga regleringar, som endast riktas mot utvecklare av slutprodukter, kan leda till att utvecklare av basmodeller minskar sin säkerhetsnivå mer än vad applikationsutvecklare ökar den. Detta kan resultera i att slutprodukten är mindre säker än om ingen reglering hade funnits.
Å andra sidan kan lämpligt kalibrerade regleringar som gäller både utvecklare av basmodeller och applikationsutvecklare fungera som en åtagandemekanism. De säkerställer att båda parter investerar i säkerhet. Sådan samarbetsbaserad reglering kan förbättra både säkerhet och prestanda, och till och med förbättra båda företagens ekonomiska situation.