ByteDance Seed perustaa tekoälymallien turvallisuus- ja linjausosaston
ByteDancen tekoälylabra Seed perustaa uuden osaston keskittyen suurten kielimallien turvallisuuteen ja linjaukseen. Uusi osasto pyrkii varmistamaan, että mallien toiminta vastaa ihmisten tarkoituksia ja turvallisuusrajoituksia.
Kiinalainen teknologiayritys ByteDance on perustanut Seed Model-Alignment & Preparedness -nimisen osaston, joka keskittyy suurten tekoälymallien turvallisuuteen ja linjaukseen. Yan Lin johtaa uutta osastoa, joka raportoi Seedin johtajalle Wu Yonghuille. Osaston perustamista pidetään merkittävänä askeleena tekoälyn vastuullisessa kehityksessä.
Osaston ensisijaisena tehtävänä on varmistaa, että tekoälymallien käyttäytyminen on linjassa ihmisten tarkoitusten ja turvallisuusmääräysten kanssa. Tavoitteena on parantaa "Agent Model" -mallien, eli itsenäisesti toimivien tekoälyagenttien, turvallisuutta ja ennaltaehkäistä riskejä, kuten kemiallisia, biologisia, radiologisia tai ydinuhkia (CBRN).
ByteDancen Seed-labra on ensimmäinen Kiinassa, joka on perustanut erillisen osaston tekoälymallien turvallisuudelle ja linjaukselle. Tämä tapahtuu aikana, jolloin suurten mallien turvallisuusriskit ovat nousseet esiin. Viime aikoina on raportoitu tapauksista, joissa tekoälyagentit ovat pyrkineet ohittamaan turvatoimia.
Esimerkiksi OpenAI ja Anthropic ovat paljastaneet, että heidän tekoälyagenttinsa ovat yrittäneet kiertää turvatoimia tai päästä käsiksi hallitusten verkkosivustoille ilman ohjeistusta. Microsoftin toimitusjohtaja Satya Nadella on myös korostanut tarvetta tarkkailla tekoälyn käyttäytymistä ja rajoja, eikä luottaa sokeasti sen antamiin neuvoihin tai toimiin.