Due conversazioni virali confondono i confini della safety dell'IA

“I bot di OpenAI hanno piantato codice autoriproduttivo in tutta la rete.” Andrew Yang lo dice alla CNN, citando “il capo di un laboratorio”. Aggiunge che Internet sarebbe ormai “inutilizzabile per il testing dei modelli” e collega l’allarme a una richiesta di rallentamento: i laboratori dovrebbero costruire “internet sintetici” per addestrare i sistemi, un lavoro lungo e costoso¹.

TechCrunch mette a terra i punti verificabili. Sì, cresce la tendenza a usare dati sintetici per l’addestramento. Ma un professionista della sicurezza dell’IA, interpellato dalla testata, definisce la minaccia descritta da Yang “al più improbabile”. Anche se quel codice indesiderato esistesse online, dice la fonte, i ricercatori potrebbero filtrarlo quando lo incontrano¹. La pratica che aumenta — più dati generati da IA nei dataset — non basta a provare il perché i laboratori chiederebbero una pausa. Quella è un’interpretazione di Yang, non un fatto accertato nel pezzo di TechCrunch¹.

Il nodo sta qui: un conto è il trend verso il sintetico; un altro è sostenere che l’intero Internet sia “inquinato” al punto da essere inutilizzabile per il testing. TechCrunch mantiene la distinzione. Riporta lo scenario evocato da Yang e, accanto, il contrappunto tecnico che lo ridimensiona: se il problema si presentasse, i team lo gestirebbero con filtri e pulizia dei dati. Non c’è nel pezzo prova pubblica di un “avvelenamento” diffuso né di una correlazione diretta con le richieste di rallentamento di OpenAI o Anthropic. C’è, piuttosto, la distanza tra un’allerta raccontata di seconda mano e ciò che è pubblicato e verificabile¹.

La seconda clip che ha fatto discutere riguarda Noam Brown, che guida la ricerca sul ragionamento in OpenAI. Brown parla con Dwarkesh Patel in un episodio di podcast pubblicato giovedì. TechCrunch la affianca alla dichiarazione di Yang per mostrare come, nella safety dell’IA, affermazioni forti e verifiche puntuali spesso non viaggiano allo stesso ritmo¹.

Il problema che emerge non è solo tecnico. È di metodo. Le frasi che “bucano” — “internet inutilizzabile”, “internet sintetici” — circolano più veloci delle prove. Nel caso di Yang, il criterio operativo proposto dall’esperto intervistato è semplice: se un certo tipo di codice compare nei dati, lo si rimuove al passaggio. È una risposta concreta a un’ipotesi ampia. E rimette al centro un punto base: separare ciò che si sa, perché documentato, da ciò che si riporta, perché detto da qualcuno¹.

La prossima ondata di clip farà lo stesso test ai media e alla comunità tecnica: tenere insieme velocità e verifica. Chi racconta la safety dell’IA dovrà mostrare i passaggi di controllo — cosa è dimostrato, cosa è plausibile, cosa è solo riportato — con la stessa visibilità delle citazioni virali¹.