ByteDancen Seed AI -laboratorio perustaa erillisen osaston mallien turvallisuudelle

ByteDancen Seed AI -laboratorio perustaa oman osaston mallien linjaukseen ja valmiuteen. Uutta yksikköä johtaa Yan Lin, ja se raportoi Seed-laboratorion johtajalle Wu Yonghuille. Tiedon mukaan osa vastuullisen tekoälyn tiimin ja keskustelu-tiimin työntekijöistä siirtyy uuteen osastoon.

Osaston vastuulla on kehittää mallien käyttäytymismäärittelyjä, turvallisuusarviointeja, linjauskoulutusta, suojausjärjestelmiä ja riskienvalvontaa. Sen tehtäviin kuuluu myös parantaa tekoälyagenttien kykyä toimia ihmisten tarkoitusten ja valtuutettujen rajojen puitteissa sekä käsitellä kehittyneisiin malleihin liittyviä kemiallisia, biologisia, radiologisia ja ydinriskialueita.

Seed-laboratorio suunnittelee myös lisäävänsä julkista yhteistyötä ulkopuolisten tutkijoiden ja riippumattomien arvioijien kanssa. Tämä uusi järjestely luo erillisen organisaatiorakenteen turvallisuus- ja linjaustyölle laboratorion kehittäessä yhä kyvykkäämpiä ja autonomisempia tekoälyjärjestelmiä.