La sicurezza dei robot non è più solo meccanica: ora dipende dai dati

Un attacco che cambia ciò che un robot vede, decide o fa può renderlo insicuro anche quando nulla sembra guastarsi¹.

I robot moderni percepiscono con sensori multimodali, interpretano il contesto con modelli di intelligenza artificiale e trasformano quelle interpretazioni in azioni fisiche¹. Man mano che entrano in ambienti dinamici, la loro sicurezza dipende dall’integrità dei dati che guidano le decisioni¹. Se quei dati cambiano, cambiano anche le scelte che il sistema compie.

Questa dipendenza crea rischi che le valutazioni di sicurezza tradizionali potrebbero non cogliere appieno¹. La ricerca ha mostrato che manipolare ciò che un robot vede, sente o interpreta può influenzarne il comportamento senza richiedere un controllo diretto¹. Non serve che qualcosa sembri rotto: basta alterare l’informazione che attraversa il sistema.

La manipolazione può avvenire in qualunque punto della catena di sensing e decisione. L’articolo descrive una superficie di attacco a strati che comprende la pipeline di addestramento, l’infrastruttura di sistema e la percezione a runtime¹. Ogni livello offre un’occasione diversa per introdurre cambiamenti nei dati o nelle inferenze che guidano l’azione.

Primo livello: corrompere l’intelligenza alla fonte. L’addestramento definisce come il modello interpreta il mondo. Un intervento in questa fase può avere effetti che restano nascosti finché il sistema non incontra determinate condizioni. Nel 2017, BadNets ha dimostrato questa classe di rischio¹.

Secondo livello: l’infrastruttura di sistema. Qui scorrono dati e modelli. I percorsi che collegano i componenti diventano punti sensibili, perché mediano quello che il robot “sa” del proprio ambiente. Alterazioni in questo strato possono non lasciare segni evidenti, ma cambiano il materiale informativo su cui il sistema basa le decisioni¹.

Terzo livello: la percezione a runtime. È il momento in cui il sistema acquisisce input, li interpreta e li usa per agire. Una deviazione qui può spostare il comportamento in modo immediato, senza toccare meccanica o attuatori. L’esito pratico è che un robot può sembrare integro, ma agire su basi informative degradate¹.

Il punto centrale è netto: la sicurezza fisica dipende dalla sicurezza dell’informazione che alimenta l’intelligenza del robot¹. Se i dati sono affidabili, le decisioni lo saranno di più. Se i dati vengono manipolati, la catena decisionale può deviare pur in assenza di guasti apparenti.

Questa analisi, pubblicata da IEEE Spectrum e sponsorizzata da VicOne, propone di ripensare la sicurezza dei robot nell’era della “Physical AI”¹. L’attenzione si sposta dal solo contenimento dei guasti alla protezione dei flussi informativi che precedono l’azione fisica. La conseguenza operativa è implicita nel quadro: una valutazione efficace deve considerare l’intera superficie a strati — addestramento, infrastruttura, runtime — perché è lì che un attore esterno può cambiare il comportamento senza toccare l’hardware¹.