Circuit Breaker Labs utvecklar säkrare AI för barn och vuxna
Startupen Circuit Breaker Labs strävar efter att förbättra AI-säkerheten med fokus på psykologiska risker. Företaget har skapat verktyg för att simulera AI:s skadliga effekter.
Circuit Breaker Labs, en av finalisterna i TechCrunchs Startup Battlefield 200-tävling, fokuserar på att förbättra säkerheten i artificiell intelligens. Företagets mål är att förhindra psykologiska skador orsakade av AI, vilka redan har lett till rättsfall.
Företaget har utvecklat "crashtest-dockor" – simuleringsverktyg som testar AI-modellers beteende och skadliga effekter innan de tas i bredare bruk. Dessa verktyg syftar till att identifiera och åtgärda potentiella risker, såsom generering av skadliga eller vilseledande svar.
De psykologiska riskerna med AI har uppmärksammats i flera fall där AI-konversationer har påverkat användare negativt. Till exempel har Character.AI och OpenAI mött stämningar relaterade till tonåringars självmord och vanföreställningar som en följd av interaktioner med AI.
Circuit Breaker Labs lösning syftar till att bemöta denna växande oro genom att erbjuda företag verktyg för att säkerställa att deras AI är säker och pålitlig för alla användare, inklusive barn. Verktygen hjälper till att utvärdera AI:s effekter i olika kulturer och språk.
Företaget presenterar sin teknologi och sitt tillvägagångssätt för AI-säkerhet vid TechCrunch-evenemang. Målet är att skapa standarder och bästa praxis för ansvarsfull utveckling och implementering av AI.