Circuit Breaker Labs kehittää turvallisempaa tekoälyä lapsille ja aikuisille
Startup Circuit Breaker Labs pyrkii parantamaan tekoälyn turvallisuutta psykologisilla riskeillä. Yritys on luonut työkaluja, joilla simuloidaan tekoälyn haitallisia vaikutuksia.
Circuit Breaker Labs, yksi TechCrunchin Startup Battlefield 200 -kilpailun finalisteista, keskittyy tekoälyn turvallisuuden parantamiseen. Yrityksen tavoitteena on ehkäistä tekoälyn aiheuttamia psykologisia haittoja, jotka ovat jo johtaneet oikeustapauksiin.
Yhtiö on kehittänyt "kolaritestinukkeja" eli simulaatiotyökaluja, joilla testataan tekoälymallien käyttäytymistä ja haitallisia vaikutuksia ennen niiden laajempaa käyttöönottoa. Nämä työkalut pyrkivät tunnistamaan ja korjaamaan potentiaalisia riskejä, kuten haitallisten tai harhaanjohtavien vastausten tuottaminen.
Tekoälyn psykologiset riskit ovat nousseet esiin useissa tapauksissa, joissa tekoälykeskustelut ovat vaikuttaneet haitallisesti käyttäjiin. Esimerkiksi Character.AI ja OpenAI ovat kohdanneet oikeusjuttuja, jotka liittyvät teini-ikäisten itsemurhiin ja harhoihin tekoälyn vuorovaikutuksen seurauksena.
Circuit Breaker Labsin ratkaisu pyrkii vastaamaan tähän kasvavaan huoleen tarjoamalla yrityksille keinon varmistaa, että heidän tekoälynsä ovat turvallisia ja luotettavia kaikille käyttäjille, mukaan lukien lapset. Työkalut auttavat arvioimaan tekoälyn vaikutuksia eri kulttuureissa ja kielissä.
Yhtiö esittelee teknologiaansa ja lähestymistapaansa tekoälyn turvallisuuteen TechCrunchin tapahtumissa. Tavoitteena on luoda standardeja ja parhaita käytäntöjä tekoälyn vastuulliseen kehittämiseen ja käyttöönottoon.