Wie entschied die Regierung, dass OpenAI's Sol-Modell veröffentlicht werden kann?
OpenAI bringt sein neuestes fortschrittliches Sprachmodell, Sol, für die breite Öffentlichkeit heraus. Die Veröffentlichung wirft Fragen auf, wie die Regierung dessen Sicherheit beurteilt hat, insbesondere nach früheren Bedenken.
OpenAI gibt sein neuestes fortschrittliches Sprachmodell, Sol, für die breite Öffentlichkeit frei.
Die Veröffentlichung von Sol hat Fragen hinsichtlich der Rolle der Regierung bei der Bewertung der Sicherheit von KI-Modellen aufgeworfen. Frühere Bedenken hinsichtlich des Fable-Modells von Anthropic, dessen Fähigkeiten das Weiße Haus dazu veranlassten, dessen Veröffentlichung kurzzeitig zu verbieten, unterstreichen die Notwendigkeit von Klarheit.
Mina Narayanan, eine leitende Analystin am Center for Security and Open Technology der Georgetown University, teilte TechCrunch mit, dass ihr der Einblick in die genauen Prozesse fehlt, um sie als adäquat zu beurteilen. „Anthropic gab an, Gespräche mit der Regierung geführt und einen Klassifikator zur Erkennung von Jailbreak-Versuchen entwickelt sowie defensive Strategien zur Verhinderung zukünftiger Jailbreaks implementiert zu haben“, sagte Narayanan und fügte hinzu, dass der genaue Dialog zwischen Regierung, Anthropic und OpenAI unklar bleibt.
Dean W. Ball, ein ehemaliger Politikberater der Trump-Regierung, der jetzt für OpenAI tätig ist, schrieb letzten Monat in seinem Newsletter, dass „niemand die Anforderungen für eine Lizenzierung kennt“. Die Informationen, auf deren Grundlage die Regierung die Veröffentlichung von Modellen wie Sol genehmigt hat, bleiben undurchsichtig.
Die fortschrittlichen Sprachmodelle von OpenAI, wie Sol, bieten bedeutende neue Fähigkeiten, aber ihre schnelle Entwicklung und breite Verfügbarkeit erfordern einen fortlaufenden Dialog und die Festlegung klarer Sicherheitsstandards zwischen Regulierungsbehörden und Technologieunternehmen.