Microsofts president: AI behöver mer reglering än mjölk

Microsofts president Brad Smith har konstaterat att artificiell intelligens (AI) för närvarande är mindre reglerad än exempelvis mjölk eller tvättmaskiner. Smith betonade behovet av globala säkerhetsbestämmelser, som skulle inkludera en lagstadgad skyldighet att informera "offer" om deras system har blivit inträngda av en illvillig AI-agent. Han föreslog också att externa utvärderare bör godkänna AI-produkter innan de släpps på marknaden.

Smiths uttalanden skiljer sig markant från tidigare presidenten Donald Trumps åsikter, som har förespråkat självreglering inom sektorn för att säkerställa amerikanska företags konkurrenskraft gentemot Kina. Enligt Smith är "din tvättmaskin för närvarande under mer säkerhetsregler än AI. Varje mjölkpaket du ser i livsmedelsbutiken är föremål för säkerhetsregler och inspektioner."

Kraven på lagar och regler för att kontrollera AI har ökat efter att experter inom sektorn har uttryckt oro för att teknologin utgör ett hot mot mänskligheten. Trots att cheferna för stora amerikanska AI-jättar som Anthropic, OpenAI och Google DeepMind har stött idén om en "utvecklingspaus" för AI, har Trump motsatt sig detta.

I en intervju kallade Smith AI för både ett "verktyg och ett vapen" som brådskande behöver regleras. Han förespråkade "nödbromsar", även kända som "kill switches", för att pausa eller sakta ner AI om den skulle komma utom kontroll. Dessutom ansåg han att det borde finnas en lagstadgad skyldighet för företag att skriva "incidentrapporter" och informera offer om teknologin "löper amok". Smith menade att Storbritannien har den bästa positionen att driva dessa globala regler för AI tack vare sitt AI Safety Institute.