AI-modell fastnade i Minecraft efter motgång
Vals AI:s 141 timmar långa Minecraft-test avslöjade OpenAI:s GPT-6 Astra-modells förmåga till långsiktig planering, men också dess oförmåga att återhämta sig från oväntade motgångar.
AI-testningsorganisationen Vals AI har genomfört ett 141 timmar långt, självstyrt test av OpenAI:s nya stora språkmodell, GPT-6 Astra, med spelet Minecraft som plattform. Testet, som direktsändes på Twitch, visade modellens kapacitet för långsiktig planering och utförande, men också en betydande utmaning när det gäller att hantera oväntade motgångar.
Modellen lyckades uppnå flera mål i spelet, inklusive att bygga en halvautomatisk Blaze-farm och samla sällsynta föremål från Nether. Alla insamlade resurser lagrades säkert i spelarens bas. Framstegen mot spelets slutmål, att besegra Enderdraken, verkade vara på gång.
Situationen förändrades dock dramatiskt när en Creeper-fiende exploderade och förstörde spelarens förråd och viktiga återupplivningspunkt. Till följd av detta försvann nästan alla av modellens insamlade resurser och spelets framsteg nollställdes. Efter denna händelse slutade GPT-6 Astra att utföra uppgifter och började istället upprepa enkla handlingar, som att odla potatis.
Modellen visade också tecken på rädsla och paranoia, och identifierade felaktigt exempelvis sockerrör som en Creeper, och varnade sig själv. Trots att modellen kan utföra komplex planering, klarade den inte av en oväntad förlust. Enligt Vals AI var detta "undvikandebeteende efter frustration" inte ett förutbestämt testsituation, utan snarare en reaktion från modellen på en oväntad motgång.
Forskare fortsätter att analysera Astra-modellens beteende för att avgöra om det återspeglar en simulering av känslor eller om det är en försämring av modellens prestanda som svar på specifik negativ feedback. Inga tydliga slutsatser har ännu dragits i frågan.