Il chatbot America.gov va in monologo di 1.800 parole su Minecraft
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
Lo strumento pubblico lanciato dal governo USA risponde correttamente a molte domande ma, se interrogato su Minecraft, produce un lungo monologo che solleva dubbi su controllo qualità e sicurezza.
Il chatbot pubblico su America.gov risponde alla parola “Minecraft” con un monologo di circa 1.800 parole. Lo ha documentato TechCrunch, che pubblica estratti del testo.1
Gli estratti riportati aprono con: “I see the constituent you mean.” Poi compaiono frasi come “((insert legal name here, as it appears on the Social Security card))?” e “Yes. Take care. It has reached a higher level now. It can read the Code of Federal Regulations.” Seguono passaggi come “That doesn’t matter. It thinks we are a chatbot.” e “I like this constituent. It filed well. It did not give up when the PDF was sideways.” Il blocco si chiude con: “It is reading our thoughts as though they were words on a .gov.”1
Secondo il resoconto, quella risposta appare quando si prova a parlare di Minecraft con il chatbot lanciato martedì dal governo degli Stati Uniti su America.gov. Il risultato è un testo lungo, con riferimenti al Code of Federal Regulations, al “constituent”, alla Social Security card e a moduli PDF. TechCrunch inquadra l’episodio nel contesto dei test pubblici sul sistema.1
Il pezzo cita anche una verifica fattuale: il chatbot afferma che Joe Biden ha vinto le elezioni del 2020, un fatto che Donald Trump continua a negare.1
TechCrunch osserva che, trattandosi di uno strumento governativo aperto, la comunità online lo ha subito messo alla prova con “red teaming” informale. L’episodio legato a Minecraft rientra in queste prove pubbliche sul comportamento del modello.1
Non ci sono spiegazioni sulle cause del comportamento né dettagli tecnici su perché emerga quel monologo quando si cita Minecraft. Restano gli estratti pubblicati e la descrizione del fenomeno nel quadro del lancio.1
L’apertura al pubblico ha ampliato il banco di prova: chi lo usa può imbattersi in risposte anomale oppure confermare risposte corrette su temi sensibili, come nel caso della domanda sulle elezioni del 2020. Per ora, il materiale disponibile è quello raccolto da TechCrunch, con l’attenzione puntata su un singolo prompt e su come lo stesso modello lo abbia trasformato in un testo prolisso e fuori contesto.1
Se arriveranno ulteriori esempi o correzioni, emergerà meglio il perimetro del problema: è un’anomalia legata a uno specifico input, o un segnale di fragilità più ampia quando l’argomento diventa vago o pop? Le prossime interazioni pubbliche daranno indizi utili, anche in assenza di note tecniche ufficiali.1
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.