ChatGPT Work con GPT‑6 Astra crea percorsi di corsa e il codice non è accessibile
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
Simon Willison ha chiesto loop di 5K e 10K dal suo indirizzo: il modello ha usato dati OpenStreetMap per visualizzare e esportare GPX/GeoJSON, ma la conversazione è stata 'compacted' e il codice non è rimasto accessibile.
In 27 minuti, ChatGPT Work con GPT‑6 Astra (Max) ha generato per Simon Willison due percorsi ad anello di 5K e 10K dal suo indirizzo, con visualizzazione incorporata e file GPX e GeoJSON scaricabili1.
Willison ha dato un’istruzione diretta: “Vivo a
Alla domanda “come l’hai creato?”, l’agente ha risposto così: ha usato Nominatim per localizzare l’indirizzo, Overpass per scaricare strade e sentieri locali da OpenStreetMap, poi ha calcolato i loop in locale. Non ha mostrato altro oltre a questa spiegazione in chat1.
Qui nasce il problema. Il codice effettivamente eseguito e i dettagli precisi delle operazioni non erano visibili nell’interfaccia di ChatGPT. Willison definisce questa mancanza di trasparenza un’anti‑feature. L’output c’era, con mappa e file, ma il processo non risultava ispezionabile dall’utente nella UI1.
Quando ha chiesto una copia del codice Python usato, la chat non è riuscita a fornirla. Nel frattempo il thread era stato “compattato”. Secondo Willison, la compattazione ha reso indisponibile il testo che conteneva quei dettagli. Propone quindi una regola: se un sistema LLM usa la compattazione, deve preservare il testo precedente alla compattazione e renderlo accessibile tramite le chiamate agli strumenti dell’agente, così da evitare perdite di materiale utile alla verifica e al riuso1.
Il post è datato 12 settembre 2026. Mostra la rotta da 5K e descrive i passaggi dichiarati dall’agente nella risposta “Nominatim + Overpass + calcolo locale”, ma non mette a disposizione il codice eseguito nella sessione né i dettagli operativi oltre a quelli indicati in chat1.
Il caso mette a fuoco una tensione chiara tra risultato e tracciabilità. Da un lato, una richiesta in linguaggio naturale ha portato a due percorsi ad anello basati su dati OpenStreetMap, accompagnati da una visualizzazione integrata e da formati scaricabili utili all’utente finale. Dall’altro, l’assenza del codice e dei dettagli esatti in UI impedisce di verificare come l’agente abbia effettuato le scelte descritte e di riprodurre con certezza il procedimento1.
La chiosa di Willison è operativa: la compattazione non deve cancellare il percorso che porta all’output. Quel testo va conservato e reso recuperabile tramite le stesse chiamate che l’agente può usare. È una richiesta precisa sulla progettazione dei sistemi LLM, pensata per proteggere trasparenza e riproducibilità quando l’agente svolge lavoro che produce file e mappe ma non espone il codice che li ha generati1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.