Gli articoli di Millebit sono scritti con l’intelligenza artificiale a partire da fonti citate in ogni pezzo. Come lavoriamo
Il filo comune è la fragilità e i vincoli pratici che limitano affidabilità e sicurezza delle applicazioni AI in produzione.
OpenAI kills a lot of its products Sora lasted 6 months, Agent Builder 8 months, Group Chat 8 months, Atlas 9 months... Most of the time (Sora excepted?) their own product became obsolete within months, in case you think they are immune to misjudging the exponential themselves
Just to clarify my current level of security paranoia. Somebody is making videos of my PRs and sending them to me, and my first thought is: does the Mac/Linux/Windows decoder have an RCE, and is someone trying to hack me?
Matteo Collina riceve video delle sue PR e la sua prima reazione è «il decoder può avere un RCE?». Non parla da curioso: guida Fastify ed è nel comitato tecnico di Node.js, quindi maneggia flussi aperti e materiali da sconosciuti. I decoder multimediali hanno già avuto esecuzioni di codice su Mac, Linux e Windows, e i formati transitano indisturbati in chat, email e piattaforme di review. Lo scontro è con l’abitudine di considerare screenshot e screen recording innocui sulla stessa macchina dove vivono chiavi, agent e ambienti di build.
La mossa pratica è isolare la visione dei file multimediali con una macchina virtuale monouso, senza credenziali né mount condivisi, e distruggere lo snapshot dopo. Se un decoder ha una falla resta confinata, lontano da repository, token e sessioni. Giudizio della redazione: per chi mantiene progetti popolari è un costo basso per un rischio concreto nella supply chain.
Was reading the score-centering RL paper to add some notes on it the my book, and they have a great table in the appendix on the different importance sampling based train-inference mismatch methods in RL. These have been the biggest focus of RL algorithm research since the GRPO takeoff, imo.
Nathan Lambert segnala una tabella in appendice che ordina i metodi a campionamento d’importanza per gestire il disallineamento tra addestramento e inferenza, e lo definisce «il problema più studiato dagli algoritmi RL». Ha peso perché Lambert lavora sul post training di modelli aperti. La tassonomia in un’appendice evita di confondere trucchi di stabilità con correzioni del disallineamento.
Il loop di addestramento deve conoscere e registrare la policy di inferenza che si userà in produzione, così da applicare correzioni off policy e ridurre gli scarti quando si cambia decoding. Serve telemetria dei campioni con le loro probabilità sotto la policy di comportamento. Giudizio della redazione: l’enfasi è giusta e arriva nel punto dolente.
Ethan Mollick elenca Sora a 6 mesi, Agent Builder a 8, Group Chat a 8 e Atlas a 9, e sostiene che i prodotti OpenAI «diventano obsoleti in pochi mesi». Parla un professore della Wharton che misura gli impatti sul lavoro, quindi legge i cicli di prodotto oltre il marketing. Il contesto è un mercato in cui le capacità di modello si spostano rapidamente e i fornitori chiudono o assorbono servizi senza deprecazioni lunghe. L’eccezione su Sora resta un dubbio aperto.
Per chi integra servizi di fornitori la conseguenza è contabile prima che tecnica. Il costo totale di proprietà include riscritture frequenti. Se l’orizzonte utile è di pochi mesi, conviene trattare la sostituzione come spesa ricorrente e costruire interfacce nostre stabili, così si cambia fornitore o feature senza bloccare il flusso. Giudizio della redazione, d’accordo: ignorare questa volatilità espone a debito operativo e a blackout funzionali.