Trumps AI-styrka kan förvärra risker

President Donald Trumps förslag om att inrätta en amerikansk "AI Force", liknande den tidigare skapade "Space Force", har mötts av betydande kritik från AI-experter och forskare. Enligt analyser från Corporate News kan planen, som syftar till att "vinna AI-kapplöpningen mot Kina", leda till ett militärt kapprustning och beväpning av artificiell intelligens.

De nuvarande riskerna med AI är redan påtagliga. En av de största farhågorna är missbruk av tekniken av terroristgrupper och kriminella aktörer. Exempelvis visade en studie från 2019 att det var relativt enkelt att träna en AI-modell att radikalisera individer. Dagens mer avancerade modeller kan användas för att nå bredare publiker med övertygande men falsk information, genom att utge sig för att vara hjälporganisationer eller inflytelserika personer. Dessutom används AI av kriminella för bedrägerier och identitetsstöld, vilket leder till stora ekonomiska förluster.

Planen på en AI-styrka har kritiserats för att kunna stimulera ett militärt kapprustning med Kina. När USA skapar en militär enhet fokuserad på AI, är det sannolikt att Kina kommer att följa efter och etablera en egen motsvarande organisation. Detta skulle kunna eskalera till en kapprustning där båda sidor strävar efter snabbare utveckling utan tillräcklig säkerhetsprövning. Experter har beskrivit beväpningen av AI som ett av de största existentiella hoten mot mänskligheten, jämförbart med kärnvapenkrig eller miljökatastrofer.

Många företag som utvecklar AI-teknik, liksom flera amerikanska delstater, har anammat en mer försiktig strategi. De kräver ökad reglering och en avsiktlig bromsning av utvecklingen vid behov. Kalifornien och New York har till exempel infört lagar som kräver att stora utvecklare publicerar säkerhetsplaner och rapporterar allvarliga incidenter. Enligt experter skulle inrättandet av en internationell, tvärvetenskaplig arbetsgrupp med representanter från både regering och privat sektor vara en klokare åtgärd än att skapa en militär AI-styrka som riskerar att institutionalisera AI:s värsta tendenser.