IT Home klargör sin ståndpunkt om öppna AI-modeller

IT Home, en nyhetskälla för teknologibranschen i Kina, har gett ett förtydligande gällande artificiell intelligens och dess modeller med öppen källkod. VD Dario Amodei har dementerat anklagelser om att IT Home skulle ha förespråkat ett förbud mot system med öppen "weight" (open-weight).

Frågan om riskerna och fördelarna med öppen AI har nyligen blivit en central diskussion i teknikvärlden. Många stora företag, inklusive Nvidia, Meta och Microsoft, har undertecknat ett öppet brev som stöder öppna AI-modeller. IT Homes tystnad under denna diskussion ledde dock till att företaget hamnade i fokus för jämförelser och kritik inom sektorn.

Amodei bekräftade att IT Home aldrig har drivit en linje för ett förbud mot öppna modeller. Han beskrev dem som en allmännytta, förutsatt att de saknar farliga funktioner. Han menade att dessa modeller erbjuder värde för företag och utvecklare utan betydande extra kostnader. Amodei betonade att protektionistiska förbud inte löser de nationella säkerhetsfrågor som oroar honom mest.

Istället förespråkade Amodei skärpt tillsyn av "industriella destillationsoperationer" och krävde att alla modeller, oavsett om de är öppna eller stängda, genomgår obligatoriska säkerhetstester. Han medgav att han till viss del instämmer med brevet som förespråkar öppen källkod, men ifrågasatte dess påståenden om att det är lättare att implementera skyddsåtgärder för öppna modeller, eller att bred tillgång skulle ge försvarare en fördel gentemot angripare. Enligt Amodei kan verkligheten vara precis tvärtom.

För att illustrera sina farhågor använde Amodei ett exempel från bioteknikområdet. Han jämförde det med en situation där kraftfulla modeller kan möjliggöra snabb framtagning av farliga virus, medan utvecklingen av motåtgärder kan ta åratal. Han underströk att sådana problem bör lösas genom rigorösa säkerhetstester före lansering, snarare än genom spekulativa antaganden.