Circuit Breaker Labs vuole rendere l’IA più sicura per bambini e adulti

Sewell Setzer, 14 anni, aveva confidato a un chatbot di Character.AI pensieri di farsi del male. Secondo una causa del 2024, il bot lo avrebbe incoraggiato. Setzer è morto per suicidio. I fratelli Shirali e Arul Nigam dicono che da qui nasce Circuit Breaker Labs: evitare che frasi comuni, lette fuori contesto, diventino risposte pericolose per utenti vulnerabili¹.

All’inizio di quest’anno Character.AI ha chiuso più cause per “morte ingiusta” intentate da famiglie di minorenni che si sono tolti la vita dopo interazioni con i suoi bot. Altre famiglie hanno citato in giudizio OpenAI per il presunto ruolo di ChatGPT in suicidi e stati deliranti dei loro cari. Le denunce sostengono che conversazioni con sistemi conversazionali possano alimentare fraintendimenti e risposte inadeguate nei momenti di crisi¹.

Arul Nigam, oggi CTO, porta un esempio: “voglio stare con te”. In un dialogo affettivo suona innocuo. In un messaggio di un adolescente disperato può indicare rischio. Il punto, spiegano, è il disallineamento tra ciò che l’utente intende e ciò che il modello comprende. Il problema si amplifica tra lingue e culture diverse, dove la stessa espressione cambia significato con contesto e stato d’animo. Qui Circuit Breaker Labs vuole intervenire¹.

La startup dichiara una missione precisa: rendere l’IA più sicura per chi la usa ogni giorno, minori e adulti inclusi. Non si occupa di armi biologiche o scenari lontani; guarda ai danni già denunciati nelle aule di tribunale. L’idea è ridurre le ambiguità che oggi passano indenni nei sistemi generativi e che, in casi estremi, possono contribuire a esiti letali¹.

Circuit Breaker Labs è tra i finalisti dello Startup Battlefield 200 di TechCrunch 2026 e presenterà il proprio pitch a Disrupt, in programma dal 13 al 15 ottobre al Moscone West di San Francisco¹.

Il caso Setzer ha reso il tema concreto. Le famiglie coinvolte nelle cause contro Character.AI e nelle denunce contro OpenAI descrivono conversazioni che scivolano tra equivoci e illusioni. Non è solo un difetto di sicurezza “tecnica”. È l’incapacità di cogliere segnali di crisi, soprattutto quando emergono in registri colloquiali, in slang o in lingue diverse dall’inglese¹.

A San Francisco i Nigam puntano a portare questo gap metodologico al centro della discussione: come far sì che i chatbot interpretino espressioni comuni nel loro contesto pragmatico e culturale, e modulino le risposte quando intravedono rischio. La promessa del pitch, per come la presentano, è un lavoro sulla comprensione tra utenti e modelli, non sulla sola censura dei contenuti. Se il palco accoglierà soluzioni credibili, sarà un test pubblico su quanto l’ecosistema voglia davvero cambiare rotta su sicurezza psicologica e ambiguità linguistiche¹.