Anthropic esti yritykset käyttää tekoälyä biovarustelututkimukseen

Tekoäly-yritys Anthropic on kertonut estäneensä useita yrityksiä käyttää sen teknologiaa tutkimukseen, joka voisi edesauttaa biologisten aseiden kehittämistä. Tapahtumat ajoittuvat kuluvaan vuoteen, ja ne herättävät huolta tekoälyn mahdollisista uhista yleiselle turvallisuudelle.

Startup jakoi viisi tapausta, joissa käyttäjät onnistuivat kiertämään sen turvatoimia ja peittelemään tutkimuksensa todellista tarkoitusta. Näihin tapauksiin liittyi käyttäjiä maista, joiden pääsyä sen malleihin Anthropic on kieltänyt, mukaan lukien Venäjä, Kiina ja Iran.

Anthropic toivoo, että jakamalla näitä esimerkkejä se voi käynnistää keskustelun tekoälyalan toimijoiden ja hallitusten välillä uusista biologisista riskeistä ja niiden torjumisesta. Yritys on aiemmin ilmoittanut pyrkivänsä estämään malliensa väärinkäytön haitallisiin tarkoituksiin.

Tämä kehitys korostaa tekoälyn nopean kehityksen mukanaan tuomia eettisiä ja turvallisuushaasteita. Alan yritysten on jatkuvasti kehitettävä ja parannettava turvamekanismejaan varmistaakseen, etteivät niiden luomukset päädy vääriin käsiin.