Safeworld esce dallo stealth con oltre 12 milioni per la sicurezza dei robot
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
La startup di Ding Zhao, Kyle Wong e Simo Rachidi vuole certificare e valutare i robot basati su modelli generativi mentre vengono progettati e distribuiti.
Oltre 12 milioni di dollari per misurare e sottoscrivere il rischio dei robot guidati da modelli generativi, e farlo prima che tocchino il mondo reale1.
Safeworld nasce con tre fondatori: Ding Zhao, che guida il Safe AI Lab della Carnegie Mellon University; Kyle Wong, con esperienza da executive; Simo Rachidi, ingegnere di machine learning1. Il round seed è guidato da Shine Capital e a16z Speedrun. Partecipano Box Group, Innovation Endeavors, SV Angel e l’endowment della Carnegie Mellon University1.
Il nodo tecnico è chiaro. I modelli generativi non seguono regole deterministiche. Cambia il modo in cui si stima il rischio. La verifica deve avvenire prima del dispiegamento, compresi gli umanoidi di nuova generazione1. Ding Zhao lo riassume così: “La sfida della sicurezza di cui parliamo è una combinazione di, uno, valutazioni probabilistiche davvero avanzate per l’IA generativa — come sottoscrivi il rischio di un sistema probabilistico? La seconda parte, davvero difficile, è la fiducia, e servono entrambe per distribuire un robot”1.
Qui si colloca Safeworld. La società punta a portare in azienda il lavoro di ricerca di Zhao: metodi per valutare sistemi probabilistici e strumenti che rendano affidabile la distribuzione. L’obiettivo è costruire pratiche e standard utilizzabili durante la progettazione e i primi dispiegamenti, non controlli ex post1.
Il tema interessa investitori e mondo accademico. Il perimetro del round riflette questa spinta congiunta. Shine Capital e a16z Speedrun guidano l’operazione. Box Group, Innovation Endeavors, SV Angel e l’endowment di Carnegie Mellon completano il gruppo1. Per Jonathan Lai, partner di a16z Speedrun, “il momento di costruire uno standard industriale di sicurezza è adesso, mentre i robot vengono progettati e distribuiti”1.
La posta è operativa. Senza misure probabilistiche credibili, i prototipi restano in laboratorio. Con valutazioni robuste, si sbloccano applicazioni in contesti reali, umanoidi inclusi1. Questo richiede strumenti che quantifichino esiti peggiori e probabilità, non checklist generiche1.
Safeworld si propone come attore su questa frontiera: fare da cerniera tra modelli generativi e requisiti di sicurezza che le aziende possano adottare in fase di sviluppo. Il focus è pre-deployment. Validare comportamenti, stimare rischi, definire soglie per la messa in servizio1.
Resta un punto aperto: le fonti non indicano il primo prodotto né una milestone con tempi definiti. Non c’è una roadmap pubblica con date o release annunciate. L’attenzione degli investitori sul tema sicurezza suggerisce però una pressione a trasformare presto le metodologie in strumenti e standard condivisi1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.