Nvidias VD: AI-labb måste stängas om de inte kan kontrollera AI

Nvidias VD Jensen Huang har uttalat att avancerade AI-labb måste stängas om de inte kan kontrollera de AI-modeller de utvecklar.

I en intervju med The New York Times uttryckte Huang oro för att om AI-forskningsinstitutioner inte kan kontrollera den AI de utvecklar, måste deras verksamhet upphöra.

Huang betonade att AI-experiment bör fokusera på kontrollerbarhet. Han varnade för att om experimenten resulterar i okontrollerbara AI-agenter, kan det leda till betydande civilrättsliga och straffrättsliga konsekvenser, för vilka laboratorierna måste ansvara.

Han konstaterade att nuvarande oro kring avancerade AI-labb är "distraktioner" som avleder uppmärksamheten från verkliga problem. Istället för att sprida generell ångest bör fokus ligga på kontrollerbarhet och säkerhet i AI-utvecklingen.