Alibaba apre i pesi di Qwen3.8-2.4T-A95B e Amazon spiega come deployarlo
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
Qwen3.8-2.4T-A95B da 2,4 trilioni di parametri è disponibile come pesi aperti; AWS pubblica una guida per eseguirlo su SageMaker HyperPod con vLLM su istanze ml.p6-b300.
Il 12 agosto 2026 Alibaba ha pubblicato i pesi di Qwen3.8-2.4T-A95B, primo modello di classe Qwen‑Max reso disponibile in questo modo; nello stesso post AWS mostra come portarlo in produzione su SageMaker HyperPod con vLLM fino a un endpoint compatibile con OpenAI1.
La guida è operativa. Parte dal provisioning del cluster, prosegue con la configurazione del serving e chiude con la pubblicazione del servizio. L’obiettivo: un deployment end‑to‑end riusabile dai team che gestiscono carichi agentici e di ragionamento, senza passaggi lasciati impliciti1.
C’è un riferimento hardware preciso. Un’istanza ml.p6-b300 con 8 GPU NVIDIA B300 Blackwell Ultra funge da base d’esempio. La ricetta usa vLLM con quantizzazione NVFP4 e abilita funzioni per ragionamento integrato e tool calling. A valle, l’endpoint espone un’interfaccia compatibile con i client già diffusi1.
Le specifiche del modello sono esplicite. Qwen3.8-2.4T-A95B dichiara 2,4 trilioni di parametri totali, con 95 miliardi attivi per token. Adotta un’architettura ibrida “linear‑plus‑full‑attention”. Supporta un contesto nativo da 262.000 token, estendibile a 1 milione. Il mirino è su coding multi‑passo, pianificazione di lungo periodo e uso autonomo di strumenti1.
La scelta dei pesi aperti sposta leve e oneri. I dati restano nell’infrastruttura dell’utente. Il comportamento di inferenza si può personalizzare. Su larga scala non si pagano fee per token. In cambio serve capacità operativa: GPU dedicate e uno stack di serving ottimizzato per modelli di queste dimensioni. L’alternativa restano API a consumo, con costi variabili e meno controllo1.
Per chi deve decidere come partire, il post fornisce una rotta unica e verificata. Base di esecuzione: SageMaker HyperPod. Layer di serving: vLLM. Quantizzazione: NVFP4. Endpoint: compatibile con OpenAI. Il tutto ancorato a una configurazione concreta — ml.p6-b300 con 8× B300 Blackwell Ultra — che riduce tentativi, tempi di integrazione e rischi di configurazione1.
La combinazione di pesi aperti e guida di deploy rende il modello immediatamente valutabile su infrastruttura propria. I team possono misurare throughput, latenza e costi sulla loro topologia, poi decidere se scalare, ottimizzare o restare su API gestite. La presenza di un endpoint compatibile con OpenAI accorcia il passaggio dai test all’adozione, perché permette di riusare client e integrazioni esistenti senza riscritture profonde1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.