llm-echo ora simula il conteggio token includendo tool e ragionamento
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
L'aggiornamento di Simon Willison del 18 ottobre 2026 rende il plugin utile per stimare l'impatto di componenti extra sulle pipeline LLM senza usare un modello reale.
Il 18 ottobre 2026 è uscita “llm-echo 0.5”: il plugin ora aggiorna i conteggi simulati dei token includendo chiamate a tool, prompt di sistema e token di ragionamento1.
llm-echo è un plugin di debug. Fornisce un “modello” che non usa alcun LLM. Ripete i prompt ricevuti. L’autore scrive che sta lavorando a una nuova release di LLM e che il test delle pull request lo ha portato a rivedere il plugin1.
La novità riguarda il conteggio. La nuova versione considera, nei conteggi simulati, componenti spesso presenti nelle sessioni: le chiamate a tool, i prompt di sistema, i token di ragionamento. L’obiettivo dichiarato è includere questi elementi nei numeri mostrati dall’output del plugin1.
Il post mostra un esempio di invocazione. Comando: uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage L’output inizia con una riga di testo: First I consider the prompt, then I decide what to say. Segue un blocco con i campi della richiesta e dello stato: { "prompt": "hi there", "system": "", "attachments": [], "stream": true, "previous": [] } Chiude con il riepilogo dei token: Token usage: 2 input, 24 output Tutti questi elementi compaiono nell’esempio pubblicato1.
I dettagli dell’esempio sono puntuali. Il prompt contiene la stringa “hi there”. Il campo system è vuoto. attachments è una lista vuota. stream vale true. previous è un array vuoto. Il riepilogo dei token riporta 2 in input e 24 in output. L’ordine dell’output segue la sequenza mostrata: prima la frase testuale, poi la struttura con i campi, infine il conteggio1.
L’autore colloca l’aggiornamento nel lavoro in corso su LLM. Scrive che sta puntando a una nuova release. Aggiunge che il testing delle pull request lo ha spinto a tornare su llm-echo e a rilasciare questa versione con il nuovo comportamento sui conteggi1.
La pagina è intitolata “llm-echo 0.5”. In coda compaiono quattro articoli recenti con date di ottobre 2026. I titoli sono:
- Hello Python 3.15, goodbye 3.10, and now I can use 3.11, 12 ottobre 2026.
- A new feature for my blog, built using my voice, 9 ottobre 2026.
- Claude Haiku 5.5, 7 ottobre 2026.
- We're going to need default hard budget caps on pretty much everything, 3 ottobre 20261.
Il post, insieme all’esempio completo di esecuzione, chiarisce il perimetro del cambiamento: i conteggi simulati ora tengono conto di tool, prompt di sistema e token di ragionamento. Il plugin continua a restituire il prompt ricevuto e a stampare i campi della richiesta, includendo prompt, system, attachments, stream e previous, come mostrato. L’autore collega l’intervento all’attività di test che accompagna la preparazione della nuova release di LLM1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.