Ricercatori di OpenAI, DeepMind e Anthropic avvertono rischio di estinzione
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
Una dozzina di interviste raccolte da Palisade Research su frominside.ai riporta stime di rischio esistenziale: da “circa un lancio di moneta” al “almeno 10%”.
“La probabilità di estinzione umana è circa un lancio di moneta”, dice Geoffrey Irving, ex OpenAI e Google DeepMind, in un nuovo intervento video. La frase apre una raccolta di interviste curata da Palisade Research e pubblicata su frominside.ai1.
La serie comprende una dozzina di conversazioni con ricercatori dell’IA. Partecipano dipendenti ed ex dipendenti di OpenAI, Google e Anthropic. Palisade Research si presenta come un’organizzazione senza scopo di lucro che studia capacità e motivazioni dei sistemi di IA1.
Le clip mettono in primo piano stime esplicite sul rischio estremo. Neel Nanda, ricercatore di Google DeepMind, parla di “almeno il 10 percento” di probabilità che l’IA provochi l’estinzione umana. Irving spinge l’asticella più in alto, fino al “lancio di moneta”. Numeri netti, espressi da figure interne a laboratori di punta1.
Il titolo della raccolta è diretto: la superintelligenza è “esattamente pericolosa come sembra”. Il formato è essenziale: interviste video, domande brevi, risposte senza mediazioni testuali. L’obiettivo è far ascoltare le voci dall’interno, una dopo l’altra, nello stesso luogo digitale1.
Molti interventi convergono su un punto: la possibilità di esiti catastrofici. Il linguaggio è prudente ma non elusivo. Le probabilità citate variano, ma restano alte nell’ordine di grandezza. Queste posizioni riflettono una corrente del dibattito che enfatizza i rischi della superintelligenza e chiede attenzione preventiva, senza proporre una ricetta unica1.
Manca infatti un piano operativo condiviso. Le interviste non delineano una strategia comune su come mitigare i rischi. Non emergono linee guida precise né un consenso su interventi specifici. I ricercatori espongono valutazioni personali, spesso divergenti, su tempistiche, minacce e possibili contromisure1.
Palisade Research descrive il proprio ruolo come curatoriale. Raccoglie dichiarazioni di chi sviluppa la tecnologia e le dispone in sequenza, in un contesto che privilegia l’ascolto diretto. L’organizzazione rimarca il proprio focus: analizzare capacità e motivazioni dei sistemi, più che proporre policy o soluzioni tecniche dettagliate1.
La scelta di un archivio video unitario ha un effetto pratico. Riduce la distanza tra laboratori diversi e rende confrontabili, in pochi minuti, stime e argomenti che altrimenti resterebbero dispersi. Per chi segue la sicurezza dell’IA, la serie offre un punto di accesso immediato a come i ricercatori interni quantificano il rischio estremo oggi1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.