Gli articoli di Millebit sono scritti con l’intelligenza artificiale a partire da fonti citate in ogni pezzo. Come lavoriamo
Tecnologie e pratiche per bilanciare efficienza, compatibilità e limiti dell'automazione in infrastrutture e AI medica.
RAM is the new bottleneck. Every Node.js process is fighting for memory: containers, serverless, cloud bills, k8s limits. And here's the maddening part: V8 can use half the memory with one flag, and almost nobody turns it on.
The latest Rex preview release includes a very important subsystem I've been working on for weeks to enable full forwards+backwards API compatibility with clients and servers. This was gating the Linux test program and massively opening up the Mac test program. We just invited another 1,000 (to Mac) and if it goes well this will step up considerably this week. The Linux test program will likely start this week (separate invite waves amongst existing testers). The API compatibility system is super cool. At a high level: Every API change is a rule on a JSON pointer (RFC 6901). For each message, we compile all the rules between your version and ours into a trie keyed by JSON path tokens.
Mitchell Hashimoto porta in Rex un sistema che rende il contratto dell’API esplicito: ogni modifica è una «regola su un JSON pointer», secondo RFC 6901, compilata per messaggio in un trie per percorso JSON con applicazione pigra. Viene da anni di cicatrici su Terraform e Consul, quindi ha titolo per sfidare versioning a flag o branch paralleli. Qui la compatibilità è specifica e verificabile per campo, non dispersa in macro interruttori.
Esempio concreto: se il campo /user/name diventa /user/full_name, una regola mappa il vecchio percorso al nuovo in lettura e scrittura. I client vecchi continuano a inviare name, il server traduce, e i client nuovi vedono full_name. La redazione è favorevole. Per non accumulare debito serve governance: regole nel repository con revisione, un linter che blocca wildcard troppo ampie, scadenze per deroghe e allerta in CI quando una regola sta per scadere.
AI will not automate radiologists like you think We have been talking for years now about AI automating jobs. Radiology has been a prime target, with Geoff Hinton once claiming, “people should stop training radiologists now, it’s just completely obvious that within five years, deep learning is going to do better than radiologists”, which is funny since he said that in 2016. There is now more demand for radiologists than ever, so clearly things did not turn out the way many thought. Here I will make a prediction that while radiology will change in the coming decade, radiologists will not be automated away any time soon.
La lettura convince. Viene da chi ha portato rigore alla catena del pensiero nei modelli e mette un freno a scorciatoie sul rimpiazzo. «La domanda di radiologi è aumentata» resta il fatto che smentisce le profezie. Per chi costruisce o valida sistemi clinici questo sposta l’attenzione su produttività e accuratezza nei margini, non su headcount. Il metro che conta è quanto un assistente riduce i referti incompleti e gli errori nei casi rari, con sensibilità e specificità misurate per distretto e severità, non solo medie di benchmark.
La raccomandazione della redazione è di progettare e acquistare strumenti assistivi integrati nel flusso con doppia lettura e audit continuo. Si misura l’effetto su tempo al referto e tasso di richiamo evitabile nei casi borderline. Chi offre un miglioramento qui ha un prodotto utile, il resto è rumore.
Matteo Collina, manutentore di Node.js e autore di Fastify, dice: «la RAM è il collo di bottiglia» e V8 può usare metà memoria con un flag che quasi nessuno attiva. Il punto è l’inerzia dei default in container e Kubernetes, dove si paga RAM e si rincorrono OOM alzando limiti o moltiplicando pod.
Con limiti k8s, dimezzare l’impronta per processo riduce OOMKill e aumenta la densità dei pod senza toccare l’architettura. Il prezzo è più pressione sul garbage collector e una coda peggiore. La nostra opinione: in scenari bound dalla RAM va testato contro gli SLO. Dove la memoria costa, si risparmiano budget e incidenti. Chi resta sui default paga due volte, in fattura e in oncall.