Un bug con AI non è licenziabile
In the "How software engineering is changing: a tale of two eras" essay by software engineer Neil Kakkar, he talks about how at his current startup they move very fast with AI, and fix mistakes quick, like accidentally paying creators twice. A reader suggested this would be a fireable offense at most places (shipping a bug, with AI.) I strongly disagree:
Gergely Orosz contesta l’idea che spedire un bug con AI sia licenziabile e richiama l’esperienza di Neil Kakkar, che in startup corre e poi rientra dagli errori, fino a casi come pagare due volte i creator. Il bersaglio è il riflesso punitivo che scarica colpa individuale invece di misurare il sistema e la velocità del rientro. Questo ribalta l’attenzione dall’errore alla capacità organizzativa di contenerlo.
Se si adotta l’AI per accelerare, il punto pratico è bloccare in automatico i flussi di denaro quando i segnali di anomalia superano soglie definite, con verifica e sblocco guidati da log e riconciliazioni. La redazione è d’accordo sul merito. Senza osservabilità solida e rimborsi chiari resta un azzardo, perché la correzione rapida ha un costo che qualcuno paga.