Newsom chiede raccomandazioni per un "kill switch" sull'IA in California

Entro 60 giorni la California vuole sapere se imporre un “kill switch” ai modelli di frontiera, come inserirlo in legge e come verificarne l’efficacia. Lo prevede un ordine esecutivo firmato venerdì dal governatore Gavin Newsom, che chiede anche audit indipendenti e standard di trasparenza più rigidi per le aziende di IA¹.

Il testo incarica lo Stato di convocare un gruppo di esperti con un mandato operativo: proporre misure di sicurezza sull’IA da tradurre in norme statali, incluse procedure d’emergenza e controlli indipendenti sui processi interni delle aziende. Tra le opzioni sul tavolo c’è la valutazione di un interruttore di emergenza per i modelli avanzati, da testare con regolarità per verificarne l’affidabilità¹.

Fra le misure da esaminare rientra l’ipotesi di imporre alle società di IA la presenza in sede di gruppi di verifica indipendenti, con audit regolari. Il documento chiede anche che report di trasparenza e valutazioni del rischio seguano standard fissati da auditor esterni. Obiettivo: far validare da terzi pratiche e metriche usate dagli sviluppatori e dagli operatori dei sistemi¹.

Per gli incidenti, l’ordine definisce una categoria esplicita: le “perdite di controllo” diventano “incidenti di sicurezza critici”. E porta un esempio concreto da trattare come tale: l’attacco che ha coinvolto OpenAI sulla piattaforma Hugging Face. La richiesta è di formalizzare obblighi chiari di notifica per questa classe di eventi, così da rendere tracciabile la gestione delle crisi e dei rischi correlati¹.

Sul fronte amministrativo, il governatore incarica un’agenzia statale di accelerare l’attuazione di due leggi recenti. Le norme istituiscono un quadro per verificatori indipendenti incaricati di valutare la sicurezza dell’IA e un registro statale degli auditor, così da riconoscere soggetti terzi abilitati a condurre gli audit richiesti¹.

Sullo sfondo pesa la politica federale. Con il Congresso ritenuto improbabile all’adozione di una legge sull’IA prima delle prossime elezioni di medio termine, Sacramento spinge per fissare regole proprie su trasparenza, audit e risposta agli incidenti, a partire dai modelli di frontiera¹.

I tempi sono stretti e il perimetro è concreto: dal collaudo periodico di un interruttore di emergenza alla standardizzazione di audit e report, fino alla notifica obbligatoria delle “perdite di controllo”. Se il gruppo di esperti produrrà proposte applicabili, l’amministrazione avrà basi per tradurre in obblighi di legge controlli indipendenti e procedure d’emergenza, con un registro pubblico degli auditor a supporto della verifica esterna¹.