Anthropic stoppade försök att använda AI för biovapenrelaterad forskning

AI-företaget Anthropic har meddelat att de har stoppat flera försök under året att använda dess teknologi för forskning som skulle kunna bidra till utvecklingen av biologiska vapen. Denna utveckling väcker växande oro för hotet som AI utgör mot den allmänna säkerheten.

Startupen beskrev fem fall där aktörer "kringgick kontroller" och vidtog andra åtgärder för att "förvränga" syftet med sin forskning för att undvika säkerhetsåtgärderna. Fallen involverade användare från länder som Anthropic förbjudit från att använda sina modeller, inklusive Ryssland, Kina och Iran.

Anthropic hoppas att genom att dela dessa exempel kan de stimulera en diskussion inom AI-branschen och med regeringar om nya biologiska risker och hur de bäst kan motverkas. Företaget har tidigare betonat sitt engagemang för att förhindra missbruk av sina modeller för skadliga ändamål.

Denna händelse understryker de etiska och säkerhetsmässiga utmaningar som den snabba utvecklingen av AI medför. Företag inom branschen står inför ständiga krav på att utveckla och förbättra sina säkerhetsmekanismer för att säkerställa att deras skapelser inte hamnar i fel händer.