ByteDances Seed AI-labb etablerar avdelning för modellsäkerhet och anpassning

ByteDances Seed AI-labb inrättar en ny avdelning dedikerad till modellers anpassning och beredskap. Enheten kommer att ledas av Yan Lin och rapportera till Seed-labbets chef Wu Yonghui. Enligt uppgifter kommer medlemmar från det befintliga Responsible AI-teamet samt anställda från Chat-teamet att överföras till den nya avdelningen.

Avdelningens uppgifter inkluderar att utveckla specifikationer för modellbeteenden, säkerhetsutvärderingar, anpassningsutbildning, skyddssystem och riskövervakning. Dess mandat omfattar att förbättra AI-agenternas förmåga att agera inom ramen för mänskliga intentioner och auktoriserade gränser, samt att hantera risker relaterade till kemiska, biologiska, radiologiska och nukleära hot från avancerade modeller.

Seed-labbet planerar också att utöka sitt offentliga samarbete med externa forskare och oberoende utvärderare. Åtgärden skapar en separat organisatorisk hemvist för säkerhets- och anpassningsarbetet i takt med att labbet utvecklar alltmer kapabla och autonoma AI-system.