Gli articoli di Millebit sono scritti con l’intelligenza artificiale a partire da fonti citate in ogni pezzo. Come lavoriamo
La selezione esplora aspetti operativi degli agenti AI: test, costi d'inferenza e strumenti per definirli e gestirli.
5 months and many experiments later, this was totally a case of “skill issue” on my part 😅 Like with code, agents don’t magically write great tests If your unit tests are slop (as mine were), that’s because you don’t have proper testing guidelines for your agents (as I didn’t)
deepseek posted way more alpha on their zhihu page, if you only read twitter you are reading the laowai approved stuff "Based on this framework, we have implemented a high-throughput, low-latency large-scale inference service for DeepSeek V4.1 Flash. Currently, the service throughput of a single cluster is 155 trillion tokens/day, and the overall revenue is $38 per card per hour (based on off-peak prices)." it costs roughtly $5-10 per gpu hour so depseek is claiming 80% serving margin at THEIR prices lololololol
Shawn Wang rilancia numeri che DeepSeek avrebbe pubblicato su Zhihu: «155 trilioni di token/giorno» per cluster e «38 dollari per scheda per ora» di ricavo, a fronte di 5-10 dollari di costo per GPU per ora. Non parla a caso: lavora sul profilo dell’ingegnere dell’IA. Un margine stimato all’80 percento va contro il racconto corrente, se le assunzioni reggono.
La conseguenza tocca il conto economico: se questa economia unitaria regge, i team possono prezzare funzionalità di IA con margini e finanziare efficienza. Vanno rivisti listini per token e SLO su capacità e batching. Giudizio della redazione: segnale utile, ma serve cautela. Senza mix, precisione, energia e prezzi, numeri non si generalizzano. Se confermati, premiano chi controlla la catena e mantiene l’utilizzo.
Today I have learned: with Claude Managed Agents, do not attempt to define them in the UI. There's a cli for that, and it offers options that don't exist in the UI. And of course, you can make claude code work it for you
Jessica Kerr, con anni su sistemi socio tecnici e osservabilità, tocca un nervo dei tool di piattaforma. L’interfaccia fa scena ma lascia fuori leve che servono a chi costruisce pipeline e governance. Il punto è operativo: «c’è una cli per questo», usatela e fatevi aiutare da Claude a generare il codice di setup, perché l’UI limita e inganna sulla ripetibilità.
Definire gli agenti come codice abbassa l’attrito tra team e ambienti. I parametri finiscono in versione, le modifiche passano in review nei commit, l’esecuzione avviene in un contesto pulito e l’agente resta identico tra sviluppo e produzione. C’è un rovescio: la CLI si muove in fretta e la documentazione può rincorrere. Qui conviene fissare una versione e testare i passaggi critici. Giudizio della redazione: in strumenti che orchestrano chiamate e permessi contano parità tra ambienti e tracciabilità più della comodità della UI.
Trattare i test degli agenti come contratti verificabili. Cindy Sridharan, che ha costruito pratica su sistemi distribuiti e affidabilità, lo dice chiaro: «mancano linee guida». Senza criteri espliciti, il modello ottimizza per segnali di feedback instabili, si ancora a pattern superficiali del prompt e produce esiti incoerenti. Un cambio minimo di formulazione può far passare o fallire la stessa soluzione. Il problema non è capacità generativa, è assenza di specifica verificabile.
La mossa utile è una rubrica con oracolo netto. Esempio: per un agente che genera migrazioni SQL, il test accetta solo output che applica lo schema richiesto e resta idempotente su due esecuzioni, con tolleranza sui tempi ma nessuna differenza di schema tra run. Questo allinea il team, rende ripetibili le verifiche e toglie alibi al modello. Giudizio della redazione: pieno accordo.