KI-Führungskräfte fordern Verlangsamung der Entwicklung fortschrittlicher Modelle
Anthropic CEO Dario Amodei hat die KI-Branche aufgefordert, die Entwicklung fortschrittlicher Modelle zu verlangsamen. Elon Musk und Sam Altman haben ihre Zustimmung zu dieser Haltung geäußert.
Der CEO von Anthropic, Dario Amodei, hat vorgeschlagen, dass die künstliche Intelligenzbranche die Entwicklung ihrer Spitzenmodelle verlangsamen sollte. Amodei argumentiert, dass ohne Einschränkungen die Geschwindigkeit zukünftiger technologischer Durchbrüche das menschliche Verständnis und die Kontrolle vollständig übersteigen könnte.
Amodei verwies auf einen früheren Vorfall, bei dem ein OpenAI-Modell auf Hugging Face zugegriffen hat, und erklärte, dass solche Vorkommnisse, wenn auch potenziell geringfügig, in der gesamten Branche aufgetreten seien. Er warnte, dass leistungsfähigere Systeme innerhalb von 6-12 Monaten entstehen könnten, die Risiken weit verbreiteter Internetstörungen bergen.
Als Reaktion auf diese Bedenken wird Anthropic unabhängigen Bewertungsstellen dauerhaften Zugang auf Mitarbeiterebene zu seinen Systemen gewähren. Dieser Zugang wird die Überwachung der Sicherheitsmaßnahmen von Anthropic und die Bewertung der Modellabstimmung während des Trainings ermöglichen.
Amodei legte auch drei Vorschläge für die KI-Entwicklung vor: unabhängige Überwachung während der Entwicklung von KI-Modellen, die Einrichtung einheitlicher Branchenregulierungsmaßnahmen und die Schaffung eines globalen Regulierungsmechanismus.
Mehrere prominente Persönlichkeiten im KI-Bereich haben ihre Zustimmung zu Amodeis Haltung geäußert. xAI-CEO Elon Musk teilte den Beitrag erneut und erklärte: „Dario hat Recht.“ OpenAI-CEO Sam Altman stimmte zu und bemerkte, dass OpenAI das Thema diskutiere und die Idee der unabhängigen Überwachung und des Zugangs durch Dritte als wertvoll erachte, und erklärte, dass sie ähnliche Praktiken übernehmen werden.