Trumps AI-testningsramverk exkluderar öppna modeller

Den ram för bedömning av potentiella cybersäkerhetsrisker från avancerad AI som Trumpadministrationen har tagit fram, rapporteras inte intressera sig för testning av öppna modeller. Enligt Axios undantar de frivilliga riktlinjerna uttryckligen öppna modeller – det vill säga modeller som vem som helst kan ladda ner och inspektera deras kärnkomponenter – och fastslår dessutom att ramverket inte kan användas för att begränsa öppna modeller efter att de har släppts.

AI-testningsramverket skapades efter att president Trump undertecknade en exekutiv order i juni, där AI-företag uppmanades att dela sina mest avancerade modeller med federala myndigheter före lansering för att adressera cybersäkerhetsfrågor. Denna exekutiva order syftade till att säkerställa att federala myndigheter hade möjlighet att utvärdera potentiella risker associerade med dessa kraftfulla AI-system.

Kritiker har uttryckt oro över att exkluderingen av öppna modeller kan underminera ramverkets effektivitet. Öppna modeller är ofta grunden för vidare forskning och utveckling, men kan också potentiellt utnyttjas för skadliga ändamål om de inte granskas noggrant. Att dessa modeller lämnas utanför den officiella testprocessen kan skapa luckor i säkerhetsarbetet.

Administrationens strategi verkar förlita sig på frivilliga överenskommelser med AI-utvecklare för deras proprietära modeller, samtidigt som man undviker reglering av öppen källkod. Detta tillvägagångssätt väcker frågor om huruvida det är tillräckligt robust för att hantera de bredare säkerhetsimplikationerna av AI-teknikens snabba framsteg.