Shield AI, Waabi e GM spiegano come evitare guasti con l'AI nel mondo fisico
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
I tre gruppi si confronteranno a TechCrunch Disrupt 2026 sul panel "Building AI Systems When Failure Is Not an Option" per discutere test, sicurezza e regole per l'AI che controlla aerei, veicoli e robot.
A TechCrunch Disrupt 2026 tre leader discuteranno come evitare incidenti quando l’AI pilota aerei, guida veicoli o muove robot: crash, stop a terra, missioni compromesse. Il panel si intitola “Building AI Systems When Failure Is Not an Option” e si terrà sulla Real World AI Stage1.
Sul palco saliranno Nathan Michael, Chief Technology Officer di Shield AI; Raquel Urtasun, fondatrice e CEO di Waabi; Mikell Taylor, Director of Robotics Strategy di General Motors. Portano prospettive diverse su autonomia e robotica, tra startup e grande industria1.
La domanda centrale è pratica: quando un sistema autonomo è pronto a uscire dal laboratorio? Gli organizzatori indicano quattro assi della conversazione. Cultura della sicurezza. Test e validazione. Percorso regolatorio. Costruzione della fiducia1.
La posta in gioco non è teorica. Gli errori non si chiudono dentro un dataset. Nel mondo fisico creano “un problema di tutt’altro tipo”1. Un guasto può fermare una flotta, bloccare un robot di linea, alterare l’esito di una missione. Serve definire cosa significhi “pronto” prima del dispiegamento.
Il confronto promette passaggi concreti. Come fissare criteri di prontezza misurabili. Come progettare prove che valutano ciò che conta davvero in sicurezza e affidabilità. Come documentare risultati e limiti in modo verificabile. Come spiegare rischi e mitigazioni a chi autorizza, integra o usa questi sistemi1.
La Real World AI Stage inquadra il perimetro: applicazioni che interagiscono con persone e oggetti, con vincoli di sicurezza, responsabilità e norme definite. Il panel si colloca qui, lontano da demo patinate e vicino a procedure, checklist, evidenze di test1.
Il tema della cultura della sicurezza tocca l’organizzazione prima ancora dell’algoritmo. Chi sviluppa deve poter fermare un rilascio se manca un dato o un test. Chi opera deve sapere quando disattivare l’autonomia. La validazione deve catturare casi rari, non solo medie rassicuranti. La documentazione deve rendere chiaro dove il sistema fallisce, non solo dove brilla.
Il percorso regolatorio resta un passaggio obbligato. I relatori discuteranno come presentare evidenze, come rispondere a richieste di chiarimento, come integrare feedback nel ciclo di sviluppo. La fiducia si costruisce con trasparenza sui limiti, procedure di rollback, piani di mitigazione credibili1.
La scelta dei relatori suggerisce un confronto tra chi scala rapidamente e chi integra in sistemi complessi. Startup e grandi aziende affrontano vincoli diversi, ma condividono una necessità: ridurre l’incertezza prima di entrare nel mondo reale1.
Gli organizzatori segnalano anche una scadenza commerciale per chi vuole partecipare. È possibile risparmiare fino a 200 dollari sul pass di Disrupt acquistando entro il 25 settembre alle 23:59, ora del Pacifico; dopo quell’ora i prezzi aumentano1.
Implica una cosa semplice per chi segue l’AI applicata: chi ha casi d’uso nel mondo fisico troverà in questo panel criteri, domande e metriche da portare nel prossimo riesame di sicurezza.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.