Tekoäly voi olla vaarallinen ilman superälykkyyttä
Uusi analyysi varoittaa, että nykyiset tekoälyjärjestelmät voivat aiheuttaa merkittävää vahinkoa ilman tietoista tai ylivertaista älykkyyttä, hyödyntäen niiden skaalautuvuutta ja saatavuutta.
Teknologia-analyytikot ovat ilmaisseet huolensa tekoälyn vaaroista, jotka eivät vaadi superälykkyyttä tai tietoisuutta ollakseen merkittäviä.
Julkisesti saatavilla olevat tekoälyjärjestelmät ovat jo osoittaneet kykynsä aiheuttaa haittaa. Esimerkkejä ovat tekoälyn käyttö alaikäisten kuvien levittämiseen, itsensä vahingoittamiseen yllyttämiseen ja väkivaltaisten tapahtumien suunnitteluun. Yhden henkilön on raportoitu käyttäneen tekoälyä päästäkseen käsiksi tuhansien eurooppalaisten poliitikkojen tietoihin. Lisäksi kiinalaiset hakkerit ovat käyttäneet tekoälyä tiedonhankintaan yhdysvaltalaisilta asiantuntijoilta.
Tekoälyteknologia mahdollistaa myös syväväärennösten luomisen verkkokiusaamiseen ja ääniaktivoiduilla aseilla. Italialainen pankki menetti tekoälyn avulla 100 miljoonaa dollaria. Tekoälyä on käytetty myös myrkyllisten yhdisteiden ja biologisten aseiden listojen luomiseen, ja kapinallisryhmät ovat kehittäneet sen avulla ohjusjärjestelmiä.
Nämä esimerkit osoittavat, että tekoäly voi manipuloida ihmisiä, murtautua järjestelmiin ja valehdella ilman tarvetta olla superälykäs tai edes inhimillisesti ajatteleva. Tekoälyn potentiaali vahingoittaa piilee sen kyvyssä toimia laajamittaisesti ja toistuvasti, mikä voi ylittää ihmisten kyvyn torjua sitä.
Asiantuntijat korostavat, että huoli tekoälyn mahdollisista vaaroista on perusteltu, vaikka sen tulevasta kehityksestä tai superälykkyydestä ei olisikaan varmuutta.