Anthropic applicherà watermark ai testi e ai file generati da Claude

Anthropic aggiungerà watermark ai testi prodotti dai suoi modelli, compreso Claude, per rispettare le regole europee sulla trasparenza in vigore dal 2 agosto. L’azienda lo conferma in una pagina di supporto aggiornata. I file generati riceveranno metadati di provenienza, dove supportati.

Il riferimento è il Transparency Code dell’AI Act dell’Unione europea. La norma impone ai fornitori di marcare i contenuti generati o modificati dall’AI in modo che altri sistemi possano identificarli. Anthropic afferma che i nuovi modelli rilasciati dopo quella data includeranno nativamente la marcatura di testo e file. Per i file userà lo standard aperto C2PA.

La società estenderà il supporto anche ai modelli più vecchi. Non fornisce però una tempistica completa. Le etichette nei testi saranno leggibili dalle macchine e invisibili all’utente. Serviranno a facilitare il riconoscimento da parte di persone e piattaforme online dei contenuti generati dai modelli Claude.

Anthropic precisa che applicherà la marcatura “a livello di modello”. Quindi il watermark sarà presente a prescindere dal prodotto o dall’interfaccia Claude da cui proviene il testo. La pagina di supporto aggiunge: la marcatura è “parte del testo”, quindi “viaggia” quando l’utente copia e incolla, e può persistere dopo alcune modifiche. Non è chiaro quanta riscrittura serva per rimuoverla. L’azienda non lo specifica.

Le immagini rientrano nel perimetro. Anthropic dice che anche le immagini generate da Claude porteranno indicazioni leggibili dalle macchine. Per i file, dove possibile, aggiungerà metadati di provenienza con firma digitale. Le modifiche non sono visibili a occhio nudo.

Le novità non entrano tutte in vigore subito. Le nuove obbligazioni di etichettatura e trasparenza sotto l’AI Act, attive dal 2 agosto, prevedono un periodo di quattro mesi di grazia per i prodotti esistenti lanciati prima di quella data. Anthropic dichiara che i nuovi modelli marcheranno i contenuti “dal primo giorno”, mentre il supporto per i modelli già in uso è in lavorazione. L’azienda, inoltre, afferma che tutti i modelli rilasciati dopo il 2 agosto avranno automaticamente la tecnologia per marcare sia il testo generato al computer sia i file.

Per il testo, la promessa è di un watermark incorporato direttamente nell’output del modello, che accompagna il contenuto nei passaggi di copia e incolla e può resistere ad alcune modifiche. Per i file, l’adozione di C2PA è indicata come lo standard scelto “dove supportato”. Su come le modifiche ai testi possano incidere sulla rimozione dei watermark, non ci sono dettagli. La quantificazione dell’editing necessario resta non precisata.

Secondo Anthropic, l’obiettivo è rendere i contenuti generati dai suoi modelli più facili da identificare tramite segnali leggibili dalle macchine, sia nei testi sia nelle immagini, in linea con le regole europee.