Microsofts president stödjer oberoende AI-säkerhetsgranskning

Microsofts president Brad Smith har uttryckt sitt stöd för att införa oberoende bedömare för att granska AI-systemens säkerhet. Smith betonade vikten av att säkerställa att systemen förblir under mänsklig kontroll.

Under ett FN-möte i New York diskuterades AI-säkerhet och global reglering av AI-industrin. I en intervju med Bloomberg sade Smith att framsteg inom AI-säkerhet är svåra att uppnå om endast en eller två organisationer ansvarar för den. Han noterade att även om modellutvecklare är avgörande, är företag som Microsoft, som tillhandahåller mjukvarulagret och kontrollerar AI-agenter, också av yttersta vikt.

Microsoft har, tillsammans med sin partner OpenAI, etablerat en gemensam säkerhetskommitté. Genom denna kommitté deltar Microsoft i diskussioner om AI-säkerhet och bedömer när modeller är tillräckligt säkra för att släppas. Smith sade också att Microsoft stödjer idén om att införa avstängningsknappar för avancerade system för att säkerställa mänsklig kontroll.

"Säkerhetsmekanismer måste verkligen implementeras på flera nivåer", sade Smith. "Om du kan placera en avstängningsknapp på tre eller fyra ställen, varför bara ha den på ett?"

Smith medgav också att Microsoft behöver justera sina klimatmål. Tidigare åtaganden innebar att företaget skulle ta bort mer koldioxid från atmosfären än det släppte ut till 2030. Användningen av naturgaseldade kraftverk för att driva AI-datacentra har dock gjort tidsplanen svårare att uppnå. "Vi tror fortfarande att klimatet är en av de viktigaste frågorna under detta århundrade, men frågan vi ställer oss nu är om vi kan uppnå dessa mål på samma sätt som vi föreställde oss för sex år sedan", sade Smith. "Jag tror att vi inser att vi måste göra vissa justeringar."