OpenAI inserisce watermark invisibile nei testi di ChatGPT nell'UE
Testo scritto con l’intelligenza artificiale a partire da fonti pubbliche, senza revisione umana prima della pubblicazione.
La misura, che si basa sulla tecnica textGrain, sarà attiva nelle prossime settimane per gli utenti UE; gli sviluppatori API possono abilitarla da oggi.
Nelle prossime settimane arriverà un watermark invisibile nei testi generati da ChatGPT e Codex per gli utenti dell’Unione Europea, in risposta agli obblighi di trasparenza dell’AI Act entrati in vigore il 2 agosto.
La misura non aggiunge loghi o simboli. Interviene sulle scelte lessicali del modello e inserisce un pattern che il lettore non percepisce, ma che un rilevatore dedicato può individuare. Il segnale, incorporato nelle parole, resta nel contenuto anche dopo copia e incolla.
L’azienda afferma che la marcatura non permette di risalire all’identità dell’utente. Dice inoltre di non avere osservato variazioni significative nelle prestazioni dei modelli quando il watermark è attivo.
Il rollout coprirà gli utenti eleggibili nell’UE su tutti i piani di ChatGPT e di Codex. La funzione rimane circoscritta all’Europa e non verrà attivata come impostazione predefinita a livello globale al lancio.
Gli sviluppatori che usano l’API possono già oggi abilitare la marcatura su modelli selezionati, indipendentemente dal paese. L’opzione è disattivata per impostazione predefinita.
La base normativa è chiara: le regole di trasparenza dell’AI Act chiedono ai fornitori di sistemi di IA di marcare i contenuti generati in modo che altri sistemi possano identificarli. Il riferimento è alla riconoscibilità automatica dei testi, non alla segnalazione visiva per i lettori umani.
Per illustrare l’approccio, l’azienda ha diffuso un report tecnico sul metodo adottato, chiamato textGrain. Il documento accompagna l’annuncio e definisce il watermark come una modifica statistica del testo che consente la verifica tramite un detector dedicato.
L’intervento non cambia l’aspetto del contenuto per chi legge. Agisce sul dietro le quinte del testo, lasciando una traccia che “viaggia” con le parole e che resta rilevabile anche se il contenuto viene spostato tra documenti o piattaforme. La progettazione punta alla robustezza del segnale a fronte delle operazioni più comuni degli utenti, come la copia e l’incolla.
Il perimetro del lancio, limitato all’Europa, indica una strategia graduale. La scelta di non attivare il watermark per impostazione predefinita nel resto del mondo al debutto lascia spazio a implementazioni differenziate per area geografica e canale d’uso (app e API).
Per gli sviluppatori, la possibilità di attivare subito l’opzione via API offre un banco di prova concreto. Permette di testare l’impatto nelle proprie integrazioni prima che la marcatura diventi più diffusa tra gli utenti finali in UE.
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate nel pezzo. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Il filo della storia
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.