Rilevare l’IA non è solo “vero o falso”, avverte il CEO di Pangram
Testo scritto con l’intelligenza artificiale a partire da 2 fonti citate, senza revisione umana prima della pubblicazione.
Max Spero dice che stabilire quanto un testo o un'immagine sia stato generato o solo assistito dall'IA è più difficile e mette a rischio la fiducia nel web.
Substack ha scelto Pangram per etichettare le newsletter che usano l’IA. Max Spero, cofondatore e CEO, avverte: ridurre il rilevamento a “vero o falso” non basta.
La posta in gioco è la fiducia. Un conto è un testo scritto da una persona con un aiuto minimo. Altro è un articolo intero generato da un modello. Tracciare la linea serve a lettori e autori. Ma la linea non è netta. Spero spinge per distinguere tra “AI assisted” e “AI generated”. E per comunicare il risultato in modo chiaro, non come un bollino binario.
Il contesto è un web pieno di contenuti sintetici. Testi e immagini creati dall’IA entrano in candidature di lavoro, recensioni di prodotto, richieste di risarcimento assicurativo. Piattaforme e utenti chiedono segnali affidabili su ciò che stanno leggendo e guardando.
Pangram lavora su questo strato di fiducia. Ha raccolto 9 milioni di dollari e ha siglato un accordo con Substack. La piattaforma usa la sua tecnologia per informare i lettori su quali autori adottano strumenti di IA nelle newsletter. Pangram ha presentato anche uno strumento per individuare immagini generate dall’IA.
Per Spero, i rilevatori devono dire quanto e dove l’IA interviene, non solo se è presente. Un aiuto alla riscrittura non equivale a una bozza intera creata da un modello. Una buona etichetta deve riflettere queste differenze senza scivolare nell’ambiguità. La soluzione tecnica e la forma di presentazione al pubblico contano allo stesso modo: un giudizio sfumato è inutile se chi legge lo interpreta come un sì/no.
L’urgenza, dice Spero, sta nei numeri che non vediamo ma che incidono sui flussi online. Il web potrebbe essere “pericolosamente vicino” alla “dead internet theory” entro pochi anni, con la quota di contenuti automatici in crescita e la percezione generale che si altera di conseguenza.
Queste scelte pesano su chi gestisce e chi scrive. Se una piattaforma promette di segnalare l’uso dell’IA, deve applicare criteri stabili. L’accordo con Substack offre un caso pratico: informare sull’impiego di strumenti di IA, senza esprimere un giudizio di valore sul contenuto. La coerenza nell’etichettatura riduce i falsi allarmi, evita accuse infondate e aiuta gli autori a capire come bilanciare gli strumenti con la propria voce.
Spero ha discusso questi temi su Equity, il podcast di TechCrunch, condotto con Rebecca Bellan. Nell’episodio spiega perché i sistemi devono andare oltre il gioco “real or fake” e come impostare soglie e categorie che abbiano senso per chi legge e per chi pubblica.
Alla fine, l’etichetta non è un dettaglio grafico: decide aspettative e incentivi. Per i lettori, segnala quanto fidarsi. Per gli autori, chiarisce fino a dove spingersi con l’assistenza dell’IA. “Pericolosamente vicino” non è solo un monito: è una metrica che piattaforme e scrittori trasformano in regole ogni volta che scelgono come, e quanto, dichiarare l’uso dell’IA.
Fonti
- Pangram’s Max Spero on why AI detection is harder than ‘Real or Fake’
- We’re ‘dangerously close’ to dead internet theory, says Pangram’s CEO
Le fonti di questo pezzo sono state ricollegate all’articolo dopo la pubblicazione: l’elenco è quello da cui è stato scritto, ma i singoli rimandi nel testo non sono associati a una fonte precisa.
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.