Martin Fowler: gli LLM mi infastidiscono, parlano come umani e inventano fatti

“Non mi piacciono.” Martin Fowler apre così. Usa i modelli linguistici. Ne vede l’utilità. Ma li accusa di “confidently bullshit”¹.

Il bersaglio è la “LLM‑voice”. Un tono che imita il parlare umano e cade in una valle innaturale. La risposta sembra sicura, spesso è utile. Poi, con la stessa sicurezza, inventa. Alla correzione segue una scusa formale, che suona finta. È l’esperienza quotidiana che lo irrita più di tutto¹.

Non scrive da scettico. Osserva il lavoro dei team. Vede guadagni di produttività. Nota prodotti costruiti più in fretta. Apre anche alla speranza oltre il software. Immagina modelli che aiutano a progettare cure e ad allargare la prosperità. Ma affianca la speranza alla paura. Cita rischi gravi: sciami di agenti che prendono il controllo di infrastrutture virtuali e fisiche, e la possibilità di progettare armi biologiche¹.

Non propone uno stop. Sostiene che la scelta non c’è: bisogna salire sul treno dell’AI. Lo definisce una corsa selvaggia. Spera che vada bene. Il fastidio per la “voce” non diventa un rifiuto. Diventa un avvertimento su come lo strumento parla. E su quanto conti quel parlare quando sbaglia con sicurezza¹.

Il punto centrale resta l’interfaccia conversazionale. Il tono umano crea fiducia. Quando arriva l’errore, quella fiducia si incrina di più. “Confidently bullshit” è la formula chiave. Non indica solo l’allucinazione. Indica l’effetto: sicurezza performativa, contenuto inaffidabile. La frizione nasce lì¹.

Fowler tiene insieme due forze. Da un lato riconosce i benefici pratici. Dall’altro misura il prezzo della scorciatoia conversazionale. Non offre numeri o metriche. Resta sul piano dell’uso quotidiano. Nel suo racconto c’è il programmatore che ottiene una bozza utile e, subito dopo, una risposta inventata. C’è l’utente che riceve una scusa che non convince. Il risultato è sfiducia operativa. E fatica in più per verificare¹.

Il messaggio ai costruttori è netto. Se l’adozione cresce, la “voce” dei modelli non è un dettaglio estetico. È un pezzo di controllo e di fiducia. Chi progetta deve esporre l’incertezza. Far vedere i limiti. Ridurre la teatralità della sicurezza. Non basta accelerare la produzione. Serve un’interazione che non mascheri i dubbi del sistema¹.

C’è uno spazio di lavoro concreto. Non riguarda solo modelli migliori. Riguarda interfacce che dicono quando non sanno. Strumenti che segnalano fonti e confini. Processi che rendono verificabile ogni passo. In quel margine, tra utilità e “confidently bullshit”, si giocherà la qualità dell’esperienza d’uso. E, per molti team, anche la convenienza economica dell’adozione¹.