Stadtrat von New York erwägt Belohnungen für Hinweisgeber bei gefährlicher KI
Der Stadtrat von New York erwägt eine Gesetzgebung, die Hinweisgebern, die gefährliche KI-Praktiken aufdecken, finanzielle Anreize bieten würde. Die vorgeschlagenen Prämien sollen aus Bußgeldern finanziert werden, die von Unternehmen eingezogen werden.
New York City erwägt neue Vorschriften zur Überwachung des Einsatzes künstlicher Intelligenz. Ein Vorschlag würde Hinweisgeber ermutigen, schädliche KI-Praktiken aufzudecken, indem ihnen ein Anteil an den von Unternehmen zu zahlenden Bußgeldern zugesprochen wird.
Diese Initiative ist Teil eines umfassenderen Gesetzespakets zur Stärkung der KI-Aufsicht in der Stadt. Der Stadtrat wird den Vorschlag voraussichtlich bald prüfen. Darüber hinaus ist ein Gesetz geplant, das es Personen, die durch KI-Systeme geschädigt wurden, unter bestimmten Umständen ermöglichen würde, die Entwickler der Systeme zu verklagen.
Die Vorschläge wurden vom Sprecher des Stadtrats, Adrienne Adams, vor einer Anhörung am 5. Oktober zu KI-Risiken und Schutzmaßnahmen veröffentlicht. Die gesamte 51-köpfige Ratsversammlung wird an der Anhörung teilnehmen. Die Bemühungen zur Verschärfung der Regulierung nehmen zu, da die rasante Entwicklung von KI-Modellen wachsende Besorgnis hervorruft.
Vertreter wie der frühere Anthropic-Forscher Jacob Cockerson haben vor den potenziellen Gefahren von KI gewarnt. Stadtratssprecherin Adams hat die CEOs großer Technologieunternehmen wie Anthropic, OpenAI und Google zu der Anhörung eingeladen und betont die Verantwortung der Stadt, ihre Einwohner zu schützen.
Weitere vorgeschlagene Maßnahmen umfassen die Anforderung einer Überprüfung durch Dritte, bevor KI-Systeme in New York City vermarktet oder eingesetzt werden, sowie die Verpflichtung zur Bereitstellung von "Not-Aus-Schaltern", die von Menschen bedient werden können. Ein weiterer Vorschlag würde Chatbot-Anbieter zur Einhaltung von Datenschutz-, Sicherheits- und Transparenzbestimmungen verpflichten.