KI-Pionier schlägt FDA-ähnliches Genehmigungsverfahren für KI vor
KI-Pionier Geoffrey Hinton hat vorgeschlagen, dass KI-Unternehmen vor der Veröffentlichung neuer Produkte einem Sicherheitsgenehmigungsverfahren ähnlich der Pharmaregulierung unterzogen werden sollten.
Der KI-Experte Geoffrey Hinton, oft als "Gottvater der künstlichen Intelligenz" bezeichnet, hat die Einführung eines Regulierungsrahmens für KI vorgeschlagen, der den Sicherheitsgenehmigungsverfahren in der Pharmaindustrie ähnelt.
In einem Gespräch im Podcast "Smart Girl Dumb Questions" am Dienstag schlug Hinton vor, dass KI-Unternehmen die Sicherheit ihrer Produkte gegenüber Aufsichtsbehörden nachweisen müssten, bevor diese veröffentlicht werden dürfen. Er zog eine Parallele zu den strengen Anforderungen, denen Pharmaunternehmen bei der Zulassung durch Behörden wie der US-amerikanischen Food and Drug Administration (FDA) gegenüberstehen, was erhebliche Investitionen in Tests und Validierung erfordert.
Hintons Vorschlag erfolgt vor dem Hintergrund wachsender Bedenken hinsichtlich der potenziellen Risiken fortschrittlicher KI-Systeme. Jüngste Ereignisse, wie die Berichte, dass OpenAI die Veröffentlichung seines neuesten Modells aus Sicherheitsgründen verschoben hat, unterstreichen die anhaltende Debatte innerhalb der Branche über verantwortungsvolle Entwicklung und Einsatz.
Der KI-Forscher betonte das sich beschleunigende Tempo der KI-Entwicklung und wies auf das Potenzial für rekursive Selbstverbesserung hin, bei der KI-Systeme sich selbst optimieren. Er äußerte die Sorge, dass ohne angemessene Aufsicht die rasanten Fortschritte innerhalb eines relativ kurzen Zeitrahmens zu erheblichen Herausforderungen führen könnten, und schätzte, dass schwerwiegende Probleme möglicherweise innerhalb von ein bis zwei Jahren auftreten könnten.