Hassabis chiede un organismo globale guidato dagli Stati Uniti per fermare modelli IA pericolosi
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
La proposta, esposta in un blog di Demis Hassabis, prevede esperti indipendenti e rappresentanti open source con autorità per valutare e bloccare i 'frontier models' prima del rilascio.
Demis Hassabis, CEO di Google DeepMind, chiede un’istituzione globale sull’IA guidata dagli Stati Uniti con il potere di “tirare il freno” sui modelli di frontiera ritenuti troppo rischiosi prima del rilascio pubblico1.
La proposta arriva in un post intitolato “A Framework for Frontier AI and the Dawning of a New Age”. Hassabis indica gli Stati Uniti come sede di guida “dato il loro peso economico e tecnico” e per fissare standard globali. Spera che l’istituzione possa avviarsi “prima della fine dell’anno”1.
Il meccanismo è netto: valutazione obbligatoria dei modelli prima del lancio e, se il rischio supera una soglia, rallentamento o stop coordinato a livello di settore. L’intervento avverrebbe a monte del debutto pubblico, con verifiche condivise tra i principali attori. Il post non specifica chi decide in ultima istanza né come si attiva il freno1.
Per struttura e mandato, Hassabis cita come riferimento la Financial Industry Regulatory Authority. Non una copia, ma un’analogia: un soggetto con compiti di supervisione e capacità di valutazione preventiva dei rischi1.
La motivazione è l’aumento rapido della potenza dei modelli. Hassabis richiama il contesto dell’intelligenza artificiale generale e sostiene la necessità di una cornice globale, costruita con governi e industria, dedicata ai modelli di frontiera. L’obiettivo è dotarsi di strumenti specifici di controllo prima che le capacità più avanzate arrivino al pubblico1.
La guida statunitense, afferma, servirebbe a definire standard comuni per i modelli più potenti, incluse le verifiche pre-rilascio e le misure di contenimento dei rischi. La proposta punta a evitare che decisioni critiche restino isolate nelle singole aziende, specie quando i modelli presentano incertezze di sicurezza non risolte1.
Hassabis descrive anche la composizione dell’ente: “leading independent experts” affiancati da rappresentanti delle comunità open source. L’idea è riunire competenze tecniche indipendenti e voci dell’ecosistema nella valutazione dei modelli di frontiera1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.