Thinking Machines pubblica Inkling: modello multimodale da ~1T e contesto 1M token

Thinking Machines ha pubblicato su Hugging Face Inkling, un grande modello multimodale che comprende nativamente immagini, audio e testo, con finestra di contesto fino a 1.000.000 di token¹. Il progetto viene presentato con una scala dichiarata di circa 1 trilione di parametri e con capacità agentiche orientate al ragionamento tra modalità diverse¹.

Inkling è un modello decoder‑only a Mixture‑of‑Experts. La configurazione indicata conta 975 miliardi di parametri totali, con 41 miliardi di parametri attivi durante l’inferenza¹. È progettato per ricevere nativamente input di immagini, testo e audio¹. Gli autori lo descrivono come focalizzato sul ragionamento multimodale e come base per adattamenti di dominio tramite fine‑tuning¹.

Il team indica un addestramento su 45 trilioni di token, che includono testo, immagini, audio e video¹. L’obiettivo dichiarato è potenziare il ragionamento attraverso più modalità, senza limitarsi a una sola forma di input¹. Il post di lancio afferma che Inkling è il primo grande modello aperto, con ~1T di parametri e finestra di 1M, a ricevere nativamente immagini, testo e audio¹.

Sul fronte formati, Inkling arriva in BF16 e in una variante NVFP4 descritta come “ben calibrata”¹. Il modello include layer MTP speculativi per accelerare l’inferenza¹. Queste scelte vengono presentate come parte dell’ottimizzazione dell’esecuzione del modello su larga scala¹.

Il modello è disponibile su Hugging Face, con supporto “day‑0” in transformers, SGLang e llama.cpp¹. Gli autori segnalano esempi e integrazioni pensati per facilitare test e prototipi sui tool usati dalla comunità¹.

La finestra di contesto da 1M viene evidenziata come elemento chiave per gestire sessioni con informazioni estese¹. Le capacità agentiche sono citate tra i punti distintivi, accanto al focus sul ragionamento tra audio, immagini e testo¹. Gli autori segnalano che l’impostazione e la scala del modello mirano a una nuova ondata di applicazioni di ragionamento multimodale¹.

Thinking Machines presenta inoltre Inkling come una base destinata al fine‑tuning per l’adattamento a domini specifici¹. La disponibilità del modello in formati pensati per l’inferenza e l’integrazione immediata negli strumenti diffusi vengono indicate come fattori utili per esplorare questi casi d’uso¹.

Nel post, il team riassume così la proposta: un modello multimodale di grandi dimensioni, addestrato su un corpus che include testo, immagini, audio e video, con finestra di contesto ampia, capacità agentiche e componenti per velocizzare l’inferenza, distribuito su piattaforme e runtime noti alla comunità open¹.