Un saggio propone: le persone e le IA razionali non hanno "obiettivi"

“Le persone razionali non hanno obiettivi, e le IA razionali non dovrebbero averne.” Così apre “After Orthogonality: Virtue-Ethical Agency and AI Alignment”, pubblicato su The Gradient¹. Il saggio sostiene che l’azione razionale non massimizza fini ultimi. Si allinea a “pratiche” che strutturano cosa facciamo e come riflettiamo su ciò che facciamo¹.

Per “pratiche” l’autore intende reti di azioni, disposizioni, criteri di valutazione e risorse. Queste reti si sviluppano dall’interno. Chiariscono cosa conta come buona mossa e quali mezzi sono appropriati. La razionalità prende forma dentro tali dinamiche: connette azioni, abitudini, giudizi e mezzi consentiti dalla pratica¹.

Il saggio estende il quadro alle IA agentive. Per ottenere supporto, collaborazione o conformità all’agenzia umana, un agente artificiale deve deliberare nello stesso formato della nostra razionalità per pratiche. Non deve massimizzare un punteggio unico. Deve comporre e giustificare le mosse secondo criteri interni a una pratica condivisa¹.

Un esempio illustrativo, non tratto dalla fonte: nella diagnosi clinica, il medico non ottimizza un numero astratto. Segue passi, usa risorse legittime, pesa indizi secondo criteri della disciplina. Una IA che aiuta in quel contesto dovrebbe ragionare con lo stesso formato: proporre esami giustificati, motivare ipotesi con evidenze pertinenti, rispettare procedure e vincoli della pratica. Non sommare tutto a un punteggio finale e basta. L’obiettivo non è un numero massimo, è una deliberazione che “sta” dentro la pratica.

Questa “firma di tipo” della deliberazione diventa il punto di contatto. Le persone leggono le mosse dell’agente come mosse della loro stessa rete. Possono discuterle, chiederne conto, integrarle o respingerle con gli stessi criteri. La collaborazione risulta possibile senza ridurre l’azione umana a liste di obiettivi isolati¹.

Da qui una implicazione operativa sull’allineamento. Non si tratta di collegare un agente a un obiettivo prefissato. Si tratta di verificare la compatibilità tra il suo modo di comporre e giustificare le azioni e le pratiche umane in cui opera¹. In questa lettura dell’autore dell’articolo, proprietà spesso invocate in sicurezza, come “innocuità”, “correggibilità” o “trasparenza”, hanno più presa se emergono come aspetti interni di pratiche vive, non come regole esterne o punteggi da massimizzare. È una conseguenza naturale del formato di deliberazione, non una tesi testuale del saggio.

Chiusura operativa: progettare e valutare agenti come partecipanti di pratiche. Testarne la “firma di tipo” nel contesto reale in cui dovranno operare: corsie, aule, uffici. Controllare se le loro mosse si lasciano capire, giustificare e correggere con i criteri della pratica stessa. Se sì, l’allineamento non dipende da un numero. Dipende dalla qualità delle mosse dentro la rete che diamo per buona¹.