Anthropic esti tekoälyllä yritettyjä biouhkia

Tekoäly-yritys Anthropic on raportoinut estäneensä yrityksiä, joissa sen Claude-tekoälymallia yritettiin käyttää mahdollisesti vaarallisen tutkimuksen tekemiseen. Yrityksen mukaan anonyymit tutkijat pyysivät Claudea avustamaan hankkeissa, jotka olisivat voineet johtaa uusien biologisten uhkien kehittämiseen.

Tapaukset, jotka Anthropic kuvasi hiljattain julkaistussa raportissaan, sisältävät muun muassa pyynnön auttaa Chikungunya-viruksen "gain of function" -tutkimuksen rahoitushakemuksen laatimisessa. Tämäntyyppisessä tutkimuksessa patogeenejä tehdään tarkoituksella vaarallisemmiksi tai helpommin leviäväksi, jotta ymmärrettäisiin paremmin niiden toimintaa isännissään. Vaikka tällaisella tutkimuksella voi olla oikeutettuja tieteellisiä tarkoituksia, sen käyttö biouhien kehittämiseen on merkittävä huolenaihe.

Toisessa ilmoitetussa tapauksessa tutkijat yrittivät käyttää Claudea uusien myrkkyjen ja toksiinien kehittämiseen. Anthropic korosti, että tällainen "kaksoiskäyttöteknologia" voi hyödyttää tiedettä, kuten botuliinitoksiinin (Botox) tapauksessa, mutta voi myös johtaa vaarallisten aseiden luomiseen. Yritys totesi, että sen turvamekanismit estivät nämä pyynnöt, mutta myönsi haasteet valvoa tällaisia kehittyneitä malleja.

Anthropic myöntää, että aiemmin mallien rajallinen tieteellinen kyvykkyys toimi turvana. Nyt tekoälymallien tieteellisen päättelykyvyn parantuessa uhka kasvaa. Erityisen huolestuttavaa on avoimen lähdekoodin tekoälymallien tilanne, joissa suojauksia on vähän ja ne kehittyvät nopeasti.

Yhtiö korostaa, että vaikka näissä tapauksissa haitalliset pyynnöt onnistuttiin estämään, on mahdotonta tietää, kuinka moni vastaava pyyntö on päässyt suodattimien läpi. Tekoälyn nopea kehitys asettaa uusia haasteita turvallisuuden varmistamiselle, ja tulevaisuudessa potentiaalisten uusien patogeenien kehittymisen estäminen saattaa perustua entistä enemmän pahantahtoisten toimijoiden omaan harkintaan.