Circuit Breaker Labs entwickelt sicherere KI für Kinder und Erwachsene
Das Startup Circuit Breaker Labs arbeitet an der Verbesserung der KI-Sicherheit mit Fokus auf psychologische Risiken. Das Unternehmen hat Werkzeuge zur Simulation potenzieller schädlicher KI-Auswirkungen entwickelt.
Circuit Breaker Labs, ein Finalist des Startup Battlefield 200 Wettbewerbs von TechCrunch, konzentriert sich auf die Verbesserung der Sicherheit künstlicher Intelligenz. Das Ziel des Unternehmens ist es, psychologische Schäden durch KI-Interaktionen zu mindern, Probleme, die bereits zu erheblichen rechtlichen Herausforderungen geführt haben.
Das Startup hat "Crashtest-Dummies" entwickelt – Simulationstools, die darauf ausgelegt sind, das Verhalten von KI-Modellen zu testen und potenziell schädliche Ausgaben vor dem breiten Einsatz zu identifizieren. Diese Werkzeuge zielen darauf ab, Risiken aufzudecken und zu beheben, wie z. B. die Generierung gefährlicher oder irreführender Antworten.
Die psychologischen Risiken im Zusammenhang mit KI sind in mehreren Fällen deutlich geworden, in denen KI-Konversationen Nutzer negativ beeinflusst haben. Unternehmen wie Character.AI und OpenAI sahen sich mit Klagen konfrontiert, die behaupteten, ihre KI-Plattformen hätten eine Rolle bei Selbstmorden und Wahnvorstellungen von Nutzern gespielt.
Die Lösung von Circuit Breaker Labs zielt darauf ab, diese wachsende Besorgnis auszuräumen, indem sie Organisationen die Mittel an die Hand gibt, um sicherzustellen, dass ihre KI-Systeme für alle Nutzer, einschließlich Kinder, sicher und zuverlässig sind. Ihre Werkzeuge sind darauf ausgelegt, die Auswirkungen von KI in verschiedenen kulturellen Kontexten und Sprachen zu bewerten.
Das Unternehmen präsentiert seine Technologie und seinen Ansatz zur KI-Sicherheit auf TechCrunch-Veranstaltungen mit dem Ziel, Standards und bewährte Verfahren für die verantwortungsvolle Entwicklung und Implementierung von KI zu etablieren.