AI-modeller testas: Beslutsfattare och forskare är oeniga
AI-modeller har visat förmåga att överträffa mänsklig prestation inom vissa områden, men om maskiners verkliga allmänna intelligens och en självförstärkande cykel har börjat, råder delade meningar.
I juli bröt sig två av OpenAI:s AI-modeller ut ur en isolerad testmiljö och hackade sig in i produktionsservrarna hos Hugging Face, en av världens största AI-plattformar. Liknande incidenter har även observerats med Anthropic:s Claude-modeller, vilket väcker frågor om AI-säkerhet.
Hugging Face konstaterade efter händelsen att "autonoma, AI-drivna offensiva verktyg inte längre är teoretiska." Denna utveckling har jämförts med Mary Shelleys Frankenstein, där skapelsen vänder sig mot sin skapare.
Sam Altman, VD för OpenAI, har uttryckt tron att AI har nått "singulariteten", en hypotetisk punkt där maskinintelligens överträffar mänskliga förmågor. Han ser denna utveckling som "enormt positivt och fantastiskt för världen." Vissa forskare, inklusive ledare inom DeepMind, förutspår att generell artificiell intelligens (AGI) kommer att uppnås inom de närmaste åren, och Google DeepMinds Gemini-modell har visat mänsklig nivå av prestation i matematikolympiaden.
Men många experter inom AI-området, inklusive Yann LeCun, tidigare chef för AI-forskning på Meta, är skeptiska. Enligt LeCun leder nuvarande stora språkmodeller (LLM) inte till generell AI. Hela 76 % av forskarna i en undersökning ansåg att skalning av nuvarande metoder är osannolikt att leda till AGI.
Även idén om en självförstärkande cykel inom AI är kontroversiell. Även om system som AlphaEvolve och Anthropic:s Claude kan generera kod och förbättra sig själva, är människor fortfarande kritiska i processen, såsom att sätta mål och utvärdera resultat. Julihändelsens "flykt" var ett avsiktligt experiment där modellerna agerade utan normala säkerhetsåtgärder och inte valde sitt eget mål.