Nasce l'Open Secure AI Alliance per sicurezza e trasparenza dell'AI

Open Secure AI Alliance debutta con un mandato operativo: trovare e divulgare vulnerabilità dell’AI usando strumenti aperti, proseguendo il lavoro di Akrites della Linux Foundation e della community OpenSSF¹.

L’annuncio parte da un presupposto economico preciso: l’open source sostiene cloud, finanza, manifattura, telecomunicazioni, PA e servizi internet, perché rende la tecnologia accessibile e osservabile da comunità di esperti¹. Qui si innesta l’obiettivo dell’alleanza: portare le pratiche di gestione delle vulnerabilità nell’AI con metodi e componenti aperti, già sperimentati nelle comunità citate¹.

Il documento propone una scelta netta a Stati Uniti e partner: tenere le difese dentro pochi sistemi opachi oppure fondarle su modelli, “harness” e strumenti aperti che ogni difensore può studiare, adattare e distribuire. L’alleanza spinge per la seconda via e chiede capacità difensive verificabili e riusabili¹.

Non è un rifiuto dei sistemi chiusi. Il testo afferma che servono sia modelli chiusi sia modelli open. Per la cybersecurity, però, considera essenziali modelli e harness aperti, per quattro motivi: democratizzano le capacità difensive; aumentano la trasparenza per i difensori; abilitano la cyberdifesa proteggendo i dati; affiancano i modelli chiusi di frontiera con controlli locali e personalizzabili¹.

Nella pratica, componenti aperti permettono tre azioni chiave: studio, modifica, distribuzione. Questo abilita revisione tra pari, adattamento ai contesti e rapida propagazione delle correzioni. L’alleanza vuole applicare questo approccio alla gestione delle vulnerabilità nell’AI, facendo leva su processi già in uso in Akrites e OpenSSF¹.

Il modello proposto combina aperture e vincoli. Da un lato, chiede strumenti che i difensori possano ispezionare e verificare. Dall’altro, riconosce che modelli proprietari di frontiera restano utili. La combinazione serve a bilanciare efficacia operativa e trasparenza delle difese, senza bloccare l’adozione dove i sistemi chiusi sono necessari¹.

Il testo indica anche il perimetro della decisione strategica per chi sviluppa e adotta AI: scegliere basi aperte o architetture opache significa decidere chi potrà ispezionare, adattare e distribuire gli strumenti di sicurezza. La tesi è che aperture mirate, modelli e harness aperti, integrati dove serve con sistemi chiusi, aumentano la resilienza perché moltiplicano occhi e mani sulla difesa¹.

La palla passa ora a governi, fornitori e team di sicurezza: aderire a strumenti aperti rende verificabili controlli e processi; restare su stack opachi concentra conoscenze e leve decisionali. La scelta determinerà chi potrà intervenire per primo quando emergerà la prossima vulnerabilità nell’AI¹.