Nvidia CEO: KI-Labore müssen geschlossen werden, wenn sie KI nicht kontrollieren können

Nvidias CEO Jensen Huang hat erklärt, dass fortschrittliche KI-Labore geschlossen werden müssen, wenn sie die von ihnen entwickelten KI-Modelle nicht kontrollieren können.

In einem Interview mit der New York Times äußerte Huang die Sorge, dass KI-Forschungseinrichtungen ihren Betrieb einstellen müssen, wenn sie die von ihnen entwickelte KI nicht kontrollieren können.

Huang betonte, dass KI-Experimente auf Beherrschbarkeit abzielen sollten. Er warnte, dass die Entstehung von "rogue agents" (unfähigen Agenten) erhebliche zivil- und strafrechtliche Haftungen nach sich ziehen könnte, für die die Labore verantwortlich gemacht würden.

Er merkte an, dass aktuelle Bedenken hinsichtlich fortschrittlicher KI-Labore "Ablenkungen" seien, die von den Kernproblemen ablenken. Anstatt weit verbreiteter Ängste sollte der Fokus auf der Beherrschbarkeit und Sicherheit der KI-Entwicklung liegen.