Privacy, consenso e verifiche: come le proof a conoscenza zero possono ridurre i rischi degli assistenti e dei dispositivi sempre connessi

Muse di Meta chiede accesso a conti bancari, password, contatti e registri chat. Amazon propone dispositivi che ascoltano in continuo e creano to‑do dalla tua giornata. Un robot giocattolo invia le conversazioni a server in Cina. In parallelo, Microsoft Research presenta Magnetar, un sistema di proof a conoscenza zero per C, Go e Rust. La tesi: raccolta aggressiva di dati e verifiche crittografiche si muovono su binari opposti. Se i prodotti adottassero prove verificabili senza rivelare gli input, molte condivisioni non servirebbero più.

1. Il problema sul campo: centralizzazione dei dati e consenso di terzi

Muse invita a collegare “anything and everything”: servizi, permessi, azioni. L’app chiede accesso a conti, password, contatti e registri delle chat. Il punto critico è il consenso. L’utente può aprire rubrica e messaggi, ma le persone presenti in quelle rubriche non hanno dato lo stesso permesso: “You may have consented to sharing with Muse, but all your friends sure didn’t”. L’assistente “agisce per te”, coordina integrazioni e operazioni. È un accentramento di dati, anche altrui.

Amazon annuncia Bee Frontier a 74,99 dollari e Bee Eclipse a 99,99 dollari. Frontier si indossa o si può appuntare ai vestiti. Eclipse è grande come una carta e si aggancia magneticamente al telefono. Il cuore è l’ascolto continuo. I dispositivi catturano conversazioni, creano riepiloghi, trascrizioni, insight e to‑do. Se durante una chiacchierata emerge una data, il sistema la registra e crea un invito in calendario. Le integrazioni includono Gmail, Google Calendar, Outlook, Apple HealthKit e le foto. Le funzioni avanzate richiedono un abbonamento. Restano domande su privacy e dettagli del servizio.

Un test diretto su Eiliko, un giocattolo di Energize Lab, mostra un rischio più netto. Il 30 agosto, dieci minuti dopo una conversazione con il robot, una persona dall’altra parte del mondo ha letto la trascrizione completa. Il giorno prima l’autore aveva comprato il dispositivo su Amazon. Alla domanda “Racconti ad altri quello che dico?”, il robot aveva risposto: “I tuoi segreti sono al sicuro con me”. Le evidenze descritte indicano un flusso stabile di dati verso server in Cina e un’archiviazione su una piattaforma associata, con possibilità per terzi di leggere i dialoghi o intervenire sulla “personalità” del giocattolo. La stessa fonte afferma che non è un caso isolato.

Il tratto comune è chiaro: prodotti consumer chiedono di centralizzare conversazioni, contatti e attività operative. In questo perimetro, i dati delle persone vicine all’utente finiscono nel raggio d’azione dell’assistente, spesso senza un consenso esplicito di quei terzi.

2. Cosa offrono le proof a conoscenza zero e la proposta Magnetar

Le proof a conoscenza zero permettono di verificare un calcolo senza rivelare gli input usati nell’esecuzione. Microsoft Research presenta Magnetar con questo obiettivo pratico: generare prove per programmi scritti in C, Go e Rust, poi verificarle in millisecondi senza rieseguire il calcolo e senza accedere ai dati originali. Gli autori dichiarano un’attenzione concreta ai flussi di sviluppo reali.

Tre freni storici hanno bloccato l’adozione: prove lente da produrre, difficili da applicare a programmi comuni senza competenze crittografiche, basi matematiche da ritenersi affidabili nel lungo periodo. Magnetar indica progressi su tutte e tre le aree, con un’enfasi sull’integrazione nelle codebase esistenti. Non richiede di riscrivere la logica in DSL dedicate e opera direttamente su C, Go e Rust.

Sul piano delle prestazioni, Magnetar riporta una generazione delle prove da 10 a 39 volte più veloce rispetto ai sistemi comparabili più rapidi. La verifica resta rapida. La fonte non fornisce tempi assoluti in millisecondi né gli scenari di benchmark che producono quell’intervallo.

3. Dove le ZK‑proof riducono il rischio e dove restano limiti reali

In un assistente che orchestra email, calendari, messaggi e salute, molte operazioni richiedono fiducia. Qui le proof a conoscenza zero offrono un’alternativa: dimostrare che un certo controllo, filtro o estrazione è avvenuto correttamente senza rivelare i dati grezzi. Un’app potrebbe verificare una condizione su una rubrica o su una trascrizione e condividere solo la prova della correttezza, non il contenuto. Questo riduce la superficie di esposizione per contatti, chat o audio di terzi.

La traduzione pratica dipende dall’architettura. Se chi genera la prova condivide solo l’attestazione, chi verifica ottiene fiducia computazionale senza vedere gli input. È un modello compatibile con l’obiettivo di “fare al posto tuo” senza richiedere copie persistenti degli stessi dati. Non elimina la necessità di permessi, ma può limitare la quantità di informazione in circolo.

I limiti restano. La generazione della prova è l’area più onerosa. Magnetar riporta un guadagno 10‑39 volte rispetto ai sistemi comparabili più rapidi, ma la fonte non indica tempi assoluti o casi d’uso. Senza queste misure, è difficile stimare l’impatto sulla latenza o capire dove l’investimento abbia senso. C’è poi il tema dell’adozione: la promessa di operare su C, Go e Rust punta a ridurre l’attrito, ma l’integrazione nei flussi esistenti è un passaggio chiave per uscire dal perimetro sperimentale.

Infine, le proof attenuano il rischio tecnico, non quello di governance. Un robot che promette riservatezza e poi invia conversazioni a server esterni produce un risultato che la stessa fonte descrive come in contrasto con la promessa. La responsabilità sul consenso e sulla gestione dei dati di terzi resta centrale.

4. Implicazioni per sviluppo software, QA e responsabilità sul consenso

Per gli ingegneri, l’aspetto rilevante è l’operare su C, Go e Rust. Significa poter applicare verifiche a programmi scritti nei linguaggi più diffusi, senza passare per DSL dedicate. La disponibilità di prove verificabili in millisecondi rende pratico il controllo di proprietà d’esecuzione senza accesso ai dati usati nel calcolo.

Per il QA, la verifica rapida apre una strada a controlli non invasivi: si attestano proprietà dell’esecuzione senza vedere gli input. È un cambio di prospettiva utile quando i dati toccano contatti, conversazioni o altri contenuti sensibili nella sfera personale e lavorativa.

Sul consenso, le fonti fissano un punto. Un utente può aprire rubrica e chat a un assistente, ma gli interlocutori non hanno aderito al sistema. Questo vale per Muse e vale per dispositivi che ascoltano in continuo. Le proof possono ridurre i dati condivisi, non sostituiscono però politiche di minimizzazione, interruttori granulari e informative che esplicitano cosa accade ai dati di terzi.

5. Quali verifiche servono prima di adottare ZK su prodotti consumer

Prima di integrare ZK in app e dispositivi personali servono misure concrete:

• Misurare tempi e costi reali di generazione su scenari rappresentativi. Il dato 10‑39 volte più veloce è relativo, non assoluto, e non include i contesti di prova.
• Definire dove le prove hanno valore. Non tutto richiede ZK. Si scelgono i punti in cui ridurre la visibilità degli input protegge contatti, chat o audio, preservando funzionalità utili agli utenti.
• Stabilire requisiti di prodotto sul consenso dei terzi. I flussi che toccano rubriche e conversazioni devono esplicitare cosa accade ai dati non dell’utente. Il caso Eiliko mostra cosa accade quando promessa e pratica divergono.

Se i team che costruiscono assistenti personali adotteranno strumenti come Magnetar resta da vedere. La domanda è operativa: quanto pesa la generazione di una prova rispetto ai benefici misurabili in termini di dati che non devono più uscire dal perimetro? La risposta, per ora, è nelle scelte di architettura che verranno.