Anthropic spiega come Claude applicherà watermark testuali alle risposte
Testo scritto con l’intelligenza artificiale a partire da fonti pubbliche, senza revisione umana prima della pubblicazione.
La società descrive un watermark nascosto alle persone ma rilevabile con una chiave per rispettare il Transparency Code del regolamento UE sull'IA.
Anthropic ha spiegato come Claude inserirà un watermark nei testi: un pattern nascosto nelle scelte “a basso rischio”, leggibile solo da chi possiede una chiave, per aderire al Transparency Code del regolamento UE sull’IA.
Venerdì l’azienda ha pubblicato un post che affronta domande pratiche: come funzionerà il watermarking, se l’editing può nasconderlo, che cosa cambia per il codice generato da Claude. L’annuncio segue la rivelazione, fatta all’inizio della settimana, dell’introduzione del watermarking per conformarsi alle regole UE sulla trasparenza dei contenuti generati dall’IA.
Anthropic descrive il meccanismo con un esempio concreto. Quando Claude deve scegliere tra alternative equivalenti, come usare “overcast” o “grey” per il meteo, può preferire una delle due in modo da comporre nel tempo un disegno statistico nel testo. Il lettore non vede nulla; chi dispone di una chiave che lo codifica può rilevarlo.
Il post spiega che queste sono “low-stakes choices”: non cambiano il senso della frase, ma permettono di inserire un segnale invisibile in lettura normale, riconoscibile da chi possiede la chiave.
Le reazioni della community sono arrivate subito e in modo polarizzato. Su Reddit un post parla di “cospirazione” contro gli utenti di Claude. Un altro commento sostiene: “L’unico motivo per cui non lo vorresti è per mentire alle persone”. Business Insider riporta che “dozens” di utenti su X dicono di aver annullato l’abbonamento a Claude dopo l’annuncio del watermarking.
Il quadro normativo è il motivo dichiarato della scelta. Anthropic collega la decisione al Transparency Code dell’AI Act europeo, che richiede sistemi in grado di rendere identificabili i contenuti generati dall’IA.
Il post affronta anche un tema operativo: se l’editing può nascondere o attenuare il watermark e quale impatto avrà sul codice prodotto dal modello. L’obiettivo è chiarire dove e come il segnale resta rilevabile e cosa aspettarsi quando l’output viene modificato dopo la generazione.
Resta un dato tecnico esplicito nel testo: il segnale è “individuabile da chi possiede una chiave che lo codifica”.
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate nel pezzo. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Il filo della storia
- Anthropic marca i testi di Claude e gli utenti temono ricadute
- Questo articolo
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.