Quando l'AI raggiunge il miliardo: come si attesta la provenienza dei contenuti

Sundar Pichai scrive su X che Gemini ha 1 miliardo di utenti mensili. Lo chiama il prodotto Google cresciuto più in fretta e il quattordicesimo oltre il miliardo. Nello stesso arco di giorni, OpenAI inserisce in un post una riga: “più di 1 miliardo di persone sta mettendo ChatGPT al lavoro”. La portavoce aggiunge che ChatGPT aveva superato da tempo il miliardo mensile e che ha toccato 1 miliardo in una settimana di luglio. A febbraio, OpenAI parlava di 900 milioni di utenti attivi settimanali. La crescita ha rallentato. La tesi è semplice: a questa scala, la provenienza dei contenuti non è un accessorio. È un requisito di fiducia, di moderazione e di legge. E oggi si gioca su tre piani diversi: marcatura nei modelli e nei file, etichette e regole di piattaforma, prove di origine catturate sul device.

1) Perché la scala cambia il problema

Il miliardo di utenti non è una soglia simbolica. Significa che l’output dei modelli tocca il pubblico generale. Google dichiara utenti mensili per Gemini. OpenAI parla di “più di 1 miliardo di persone” e cita un picco settimanale a luglio. Le metriche non coincidono. Il confronto diretto vacilla. La traiettoria però è chiara: ChatGPT a febbraio contava 900 milioni di utenti attivi settimanali. Cinque mesi dopo, il miliardo arriva con meno slancio. Anche così, la base resta enorme.

Con questa ampiezza, ogni scelta di marcatura diventa infrastruttura. La domanda non è più “se” marcare, ma “come” inserire segnali di provenienza che altri sistemi possano leggere e usare. A valle servono motori di ranking che rispettino quelle etichette. A monte servono strumenti che attestino l’origine al momento della creazione. In mezzo, piattaforme che decidono visibilità e fiducia in base a segnali nuovi.

2) Marcature a livello di modello e metadati per file

Anthropic sceglie la via “a livello di modello”. Dice che aggiungerà watermark ai testi generati dai suoi modelli, inclusi quelli di Claude. Le etichette saranno leggibili dalle macchine e invisibili all’utente. L’obiettivo dichiarato è allinearsi al Transparency Code dell’AI Act dell’Unione europea, in vigore dal 2 agosto. La regola impone ai fornitori di marcare i contenuti generati o modificati dall’AI in modo che altri sistemi possano identificarli. Per i file, Anthropic userà metadati di provenienza e lo standard aperto C2PA dove supportato. I nuovi modelli rilasciati dopo il 2 agosto includeranno nativamente queste marcature. L’azienda estenderà il supporto anche ai modelli più vecchi, ma non dà una tempistica completa.

Questo approccio sposta l’onere sui produttori di modelli. Se la marcatura è intrinseca al modello, ogni canale di output la eredita. “A prescindere dal prodotto o dall’interfaccia Claude”, precisa Anthropic. Il vantaggio è la coerenza: un segnale uniforme che piattaforme e strumenti possono cercare. Il limite è pratico: le etichette testuali sono “machine‑readable” ma invisibili. Servono strumenti a valle per rilevarle e politiche per agire di conseguenza. Inoltre, i metadati di file dipendono dal supporto dell’ecosistema: lettura, conservazione, eventuale rimozione in transito.

3) Etichette e restrizioni lato piattaforma

Spotify interviene su un altro piano: la discovery musicale. Da metà settembre i profili artista che non rappresentano una persona reale mostreranno il badge “AI Persona”. Per impostazione predefinita, resteranno fuori dalle raccomandazioni editoriali e algoritmiche. I brani torneranno tra i suggerimenti personalizzati solo se l’utente segue quel profilo. L’etichetta apparirà nel banner del profilo, nella sezione Informazioni, nei risultati di ricerca e accanto alle tracce nelle playlist.

La piattaforma introduce anche “Likely AI Persona”. Il percorso parte dall’autodichiarazione degli artisti, passa per una verifica con revisione umana e strumenti di intelligenza artificiale. Il criterio è se nome e immagine “appaiano rappresentare identità fotorealistiche generate dall’AI”. La revisione partirà dai profili con audience sopra soglie definite, per coprire prima quelli più ascoltati.

Qui il segnale non proviene dal modello. È una classificazione applicata dall’host. La leva è la visibilità: etichettare identità generate artificialmente e limitarne l’ingresso nei sistemi di raccomandazione. Il risultato è immediato per l’utente. Ma richiede processi di rilevazione, contestazione e correzione. E apre casi liminali: cosa significa “apparire” fotorealistico? Da qui l’uso del badge probabilistico e della revisione umana.

4) Verifica dell’origine direttamente sul device

Apple lavora alla prova di origine al momento dello scatto. La beta 5 di iOS 27 contiene riferimenti a “Apple Reference Image”. È un sistema che scrive metadati di provenienza durante la cattura e introduce una nuova modalità nella Fotocamera. Le note dell’anteprima software dicono che la funzione è “disattivata per impostazione predefinita”. I riferimenti indicano un percorso di attivazione nelle Impostazioni: Fotocamera > Reference Image > Reference Mode. Solo le foto scattate con la nuova opzione “Reference” conterranno le informazioni necessarie all’autenticazione.

La verifica non è automatica. L’utente tocca un badge “Reference” sulla fotografia per avviarla. Quel tocco invia l’immagine raw con i metadati incorporati per consentire il controllo. I riferimenti di sistema delineano così tre passaggi distinti: cattura con modalità dedicata, presenza del badge, invio del file raw con metadati.

Questo modello cerca di attestare l’origine alla fonte. Non classifica a posteriori se una foto “sembra” vera. Fornisce una prova di provenienza legata al momento dello scatto. La differenza è sostanziale per flussi di lavoro giornalistici, legali o di moderazione: l’informazione sta nel file, non in un giudizio esterno.

5) Cosa significa per chi progetta prodotti AI, moderazione e QA

Le tre strade non si escludono. Servono a obiettivi diversi.

• Conformità e interoperabilità: la marcatura “a livello di modello” e i metadati nei file (C2PA dove supportato) puntano a soddisfare regole esplicite e a fornire segnali tecnici machine‑readable. Vanno letti, conservati e propagati lungo le pipeline. Richiedono strumenti di ingestione, controlli di integrità e test di resistenza alla perdita di segnali in trasformazioni e upload multipli.

• Segnali per la discovery: i badge e le restrizioni di piattaforma agiscono su ranking e raccomandazioni. Dipendono da procedure di verifica e da soglie di intervento. Impattano UX e reach. Servono criteri chiari, audit dei falsi positivi/negativi e canali di ricorso. L’uso di etichette come “Likely AI Persona” impone policy che gestiscano l’incertezza con costi operativi previsti.

• Attestazione alla fonte: i metadati catturati sul device definiscono un percorso di fiducia dal punto di creazione. Ma sono opt‑in, legati a specifiche modalità e app. La verifica richiede azioni esplicite (il tocco sul badge) e l’invio dell’immagine raw. Chi integra questi segnali deve gestire privacy, storage e compatibilità con i propri sistemi.

A livello organizzativo, la scala di adozione di Gemini e ChatGPT rende questi piani complementari. Se miliardi di persone generano o incontrano contenuti mediati dall’AI, i sistemi a valle devono combinare segnali eterogenei. Le metriche divergenti usate dai fornitori (mensili vs settimanali, “più di 1 miliardo” vs valore puntuale) suggeriscono cautela nel tradurre numeri di adozione in scelte di rischio. Ma confermano l’urgenza di costruire infrastrutture di provenienza robusta.

C’è un punto trasversale: chi decide la fiducia? Anthropic spinge segnali tecnici in uscita dai modelli. Spotify decide visibilità in ingresso alla raccomandazione. Apple progetta prove native dal dispositivo. Integrare questi strati significa definire priorità e gerarchie: quale segnale prevale in caso di conflitto? Cosa fare quando un file marcato è stato trasformato e ha perso metadati? Come trattare un profilo etichettato “Likely AI” che pubblica contenuti senza watermark rilevabili?

La risposta non è in un unico standard. È in pipeline che leggono e verificano più fonti, con logiche di fallback e audit continuo. La spinta normativa europea crea un perno comune per la marcatura tecnica. Le scelte di piattaforma mostrano che la fiducia incide sulla reach più che sul contenuto. Le prove lato device ricordano che l’origine si può attestare prima che inizi qualsiasi distribuzione. Con l’arrivo dei miliardi, chi costruisce prodotti dovrà far dialogare questi tre livelli o accettare buchi nella catena di fiducia.