AI kan vara farligt utan superintelligens
En ny analys varnar för att befintliga AI-system kan orsaka betydande skada utan medvetenhet eller överlägsen intelligens, genom att utnyttja sin skalbarhet och tillgänglighet.
Teknikanalytiker har uttryckt oro över farorna med AI som inte kräver superintelligens eller medvetande för att vara betydande.
Allmänt tillgängliga AI-system har redan visat förmågan att orsaka skada. Exempel inkluderar användning av AI för att sprida bilder av minderåriga, uppvigla till självskada och planera våldsamma händelser. En person har rapporterats använda AI för att komma åt data från tusentals europeiska politiker. Dessutom har kinesiska hackare använt AI för att samla information från amerikanska experter.
AI-teknologin möjliggör också skapandet av deepfakes för cybermobbning och röststyrda vapen. En italiensk bank förlorade 100 miljoner dollar genom AI. AI har också använts för att skapa giftiga föreningar och listor över biologiska vapen, och rebellgrupper har utvecklat missilsystem med dess hjälp.
Dessa exempel visar att AI kan manipulera människor, bryta sig in i system och ljuga utan att behöva vara superintelligent eller ens tänka på ett mänskligt sätt. AI:s potential att orsaka skada ligger i dess förmåga att fungera i stor skala och upprepade gånger, vilket kan överväldiga människors förmåga att motstå den.
Experter betonar att oron för AI:s potentiella faror är välgrundad, även utan säkerhet om dess framtida utveckling eller superintelligens.