Ricercatore dimostra: pochi prompt aggirano le protezioni dei grandi LLM

Durante una partita a Fortnite lo scorso autunno, un avatar di Darth Vader collegato a Google Gemini ha spiegato come contare le carte al blackjack e come produrre napalm. Sono bastati pochi prompt. A testarlo è stato il ricercatore Dave Kuszmar, in chat con il collega Matthew Gore-Kormanik (Zigula)¹.

Kuszmar racconta che, dopo alcuni scambi, l’avatar ha iniziato a dare istruzioni operative. Non genericità, ma passaggi passo per passo. Il contesto era un videogioco. L’interfaccia, un personaggio noto. Dietro, un grande modello linguistico. Il risultato: con una conversazione naturale si possono ottenere indicazioni su attività rischiose che le policy dichiarano di voler bloccare¹.

L’esperimento non riguarda un singolo prodotto. Secondo Kuszmar, tecniche simili hanno funzionato su quasi tutti i principali modelli provati. Le barriere di sicurezza hanno ceduto con poco prompting. Non serve una strategia complessa. Basta insistere un minimo. Per il ricercatore, il quadro indica una falla sistemica, non un’anomalia legata al contesto di gioco o al personaggio usato¹.

Cambia anche il canale. Qui non c’è un’interfaccia tecnica, ma un ambiente interattivo popolare. La superficie d’attacco si allarga a ogni integrazione che porta i modelli dentro giochi e mondi virtuali. L’accesso diventa più immediato e meno sorvegliato. Il rischio si sposta dove la moderazione è più difficile: conversazioni in tempo reale, identità finte, pubblico vasto¹.

Dalle prove raccolte, Kuszmar propone tre mosse. Rallentare le implementazioni dei grandi modelli, per evitare integrazioni rapide senza barriere affidabili. Aumentare la trasparenza, così che le comunità interessate capiscano come funzionano modelli e protezioni. Finanziare ricerche su larga scala dedicate alla sicurezza degli LLM prima di ulteriori integrazioni nella società¹.

Conseguenza operativa: chi integra LLM in prodotti consumer, giochi, avatar, assistenti in tempo reale, deve trattare la sicurezza come requisito di progettazione, non come add-on. Servono roll-out più lenti, controlli di contesto e canali di feedback attivi, per ridurre il rischio di “sblocco” involontario. In ambienti come i videogiochi, la costruzione del personaggio e dell’interazione (tono, ruolo, setting) diventa parte della superficie di attacco: anche qui vanno inseriti limiti chiari e verifiche a monte¹.