Amazon propone l’idea di thinking tokens per Nova 2
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
Una tecnica di self-distillation permette di aggiungere tracce di ragionamento ai dataset di SFT quando non esistono CoT golden, per sfruttare il reasoning di Nova 2.
Amazon suggerisce di generare “thinking tokens” per arricchire i dataset SFT quando mancano tracce di ragionamento. L’idea arriva da un post tecnico su Nova 2 dedicato alla personalizzazione e alla “self‑distilled reasoning”1.
Il problema è noto: produrre chain‑of‑thought di alta qualità costa, richiede tempo e validazione. In molti flussi SFT si usano solo input e output, senza passaggi intermedi. Il post indica che le CoT “golden”, “tracce di pensiero prodotte da un teacher forte e poi ripulite”, restano il riferimento per ottenere i migliori risultati, ma spesso non sono disponibili1. Qui entra l’ipotesi dei thinking tokens: inserire segnali di ragionamento anche quando non si dispone di CoT validate, così da non rinunciare a questo segnale durante il fine‑tuning1.
La proposta si colloca nel perimetro di due strade di personalizzazione: Supervised Fine‑Tuning e Reinforcement Fine‑Tuning. Con Nova 2, il post parla dell’uso di “thinking models” su domini specifici tramite queste tecniche. Il ragionamento esplicito, afferma il testo, può migliorare in modo significativo le prestazioni predittive dei modelli, con effetti visibili su compiti difficili come programmazione e matematica1. In assenza di CoT “golden”, la “self‑distilled reasoning” prova a colmare il vuoto generando tracce o segnali che avvicinano il modello a una forma di pensiero esplicito durante l’addestramento supervisionato1.
Non c’è una ricetta. Il post non fornisce una procedura definita, ma una direzione di lavoro: “self‑distilled reasoning” come strumento per introdurre ragionamento nei dati SFT quando le CoT validate mancano o risultano impraticabili da ottenere. Il punto operativo è netto: senza tracce di qualità, molti rinunciano al ragionamento nel fine‑tuning; con i thinking tokens, si esplora un compromesso che conserva il segnale cognitivo senza i costi delle CoT “golden”1.
Se l’ipotesi regge nei test, chi personalizza modelli potrà valutare il ragionamento esplicito anche in dataset poveri, misurandone l’impatto su compiti complessi prima di investire nella produzione di CoT validate1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.