Microsofts AI-chef: Vi bör inte skapa något vi inte kan kontrollera
Microsofts AI-chef Mustafa Suleyman betonar vikten av att skapa kontrollerbara AI-system. Han varnar för att utveckling av okontrollerbar teknik saknar mening och utgör en stor utmaning.
Mustafa Suleyman, chef för Microsofts AI-verksamhet, har uttryckt oro över behovet av att säkerställa att teknikutvecklingen inom artificiell intelligens förblir under mänsklig kontroll.
Enligt Suleyman bör företaget inte utveckla teknik som det inte kan hantera. "Om den tekniska utvecklingen till slut leder till något som inte bara är kraftfullare än hela mänskligheten sammantagen, utan också helt okontrollerbart, då förlorar AI sin mest grundläggande mening", sade han.
Han medgav att detta mål är extremt utmanande att uppnå. "Hur vi kontrollerar dessa system kommer att vara en mycket, mycket stor utmaning", beskrev Suleyman.
Suleyman uttryckte glädje över att se ett ökande antal individer som inser att teknikföretag och ledande modellutvecklare måste behålla kontrollen över sina AI-system. "Men nu anser allt fler att vi utvecklar AI bara för utvecklingens skull, bara för att se vad som finns runt hörnet, och i slutändan kan vi skapa något som undkommer vår kontroll."
Suleyman berörde också regleringen av AI, och betonade att reglering inte är ett negativt begrepp. Han jämförde det med andra standardiseringsprocesser där branschens, allmänhetens och lagstiftarnas engagemang är avgörande.