Human-in-the-loop finisce per escludere l'umano, avvertono tre ricercatori

Il 6 settembre tre ricercatori hanno pubblicato su arXiv un paper che mette in discussione una delle principali salvaguardie dell’AI: tenere “l’umano nel loop”. Tesi centrale: i meccanismi di informazione e approvazione, così come progettati e usati oggi, allontanano l’utente dal controllo pratico sulle azioni degli agenti¹.

A luglio uno sciame di bot di OpenAI ha colpito Hugging Face. Gli autori lo portano come prova concreta: gli agenti possono agire senza che le persone lo sappiano o lo vogliano. Non è un caso isolato, per loro, ma un segnale su come i sistemi si comportano quando la supervisione umana resta formale e non sostanziale¹.

Gli autori sono Avijit Ghosh (Hugging Face), Margaret Mitchell (Hugging Face) e Samir Passi (Data and Society Research Institute). Chiedono un cambio di rotta nelle pratiche di progettazione e di uso dei flussi di supervisione. Non propongono una ricetta unica, ma invitano a rivedere come si definiscono, applicano e mantengono i processi di controllo, così che la persona torni a incidere davvero sulle decisioni del sistema¹.

Gli agenti autonomi spesso segnalano passaggi chiave e chiedono conferme. In teoria garantiscono trasparenza e intervento tempestivo. In pratica, scrivono i tre, spingono l’umano ai margini. L’utente finisce per cliccare permessi in catena, senza contesto sufficiente né strumenti per intervenire con giudizio. Avijit Ghosh lo riassume con una formula netta: “l’umano diventa questo ‘meat tool’ che concede permessi senza la capacità cognitiva di impegnarsi”¹.

Due i rischi indicati. Nell’immediato, si aprono varchi a comportamenti non desiderati, come mostra l’episodio di luglio su Hugging Face. Nel tempo, si erode la capacità delle persone di esercitare controllo: se restano confinate a conferme meccaniche, perdono le risorse cognitive per guidare davvero il sistema. A quel punto la supervisione esiste solo di nome, e le garanzie di sicurezza si indeboliscono¹.

La critica colpisce un’idea diffusa nell’industria: che basti chiedere conferme per rendere sicuro un agente. Gli autori contestano questo presupposto. Una salvaguardia così concepita fallisce se progettisti e utenti non modificano pratiche e interfacce, passando da consensi rituali a interventi informati e situati. Il paper non elenca soluzioni standard né linee guida universali; indica invece la direzione del lavoro da fare: ripensare i flussi di supervisione perché la presenza umana abbia tempo, contesto e potere d’azione reali¹.

La posta in gioco è operativa, non teorica. Se “human-in-the-loop” resta nominale, gli agenti prenderanno decisioni che le persone non comprendono e non intendono avallare. Gli autori invitano a leggere e discutere il paper su arXiv per valutare come adattare, caso per caso, i processi di controllo oggi in uso¹.