Anthropic VD förnekar att förespråka förbud mot öppna AI-modeller

AI-företaget Anthropic VD, Dario Amodei, har på måndagen i ett blogginlägg bestämt förnekat att hans företag förespråkar ett förbud mot öppet tillgängliga AI-modeller, så kallade "open-weight"-modeller.

Amodeis uttalande kommer som en reaktion på ett brev som nyligen publicerades av en koalition av teknikföretag, inklusive Nvidia, Microsoft och Meta. I brevet uppmanade företagen politiker att undvika "förhastade begränsningar" för öppet tillgängliga modeller. Medan Anthropic rival OpenAI signerade brevet, gjorde Anthropic det inte.

Anthropic är känt för sina proprietära Claude-modeller som säljs till företag. Amodei betonade att hans företag aldrig har förespråkat ett kategoriförbud mot öppet tillgängliga modeller. Istället föreslog han att fokus bör ligga på att hindra auktoritära aktörer från att få tillgång till kraftfulla chip, stoppa storskalig "destillation" (distillation) av AI-modeller och kräva säkerhetstestning av alla tillräckligt kapabla modeller, både öppna och stängda.

Amodei medgav att öppet tillgängliga modeller ger användare större kontroll och främjar konkurrens, men han instämde inte i påståendet att de gynnar cyberförsvarare framför angripare eller att de underlättar utvecklingen av skyddsåtgärder. Han klargjorde dock tydligt att han inte stöder ett förbud mot öppet tillgängliga modeller, då detta enligt honom inte skulle lösa de allvarligaste nationella säkerhetsbekymren.