OpenAI costruisce GPT-Red, un LLM 'super-hacker' per testare i modelli
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
Lo usa per automatizzare il red‑teaming e ha addestrato contro di lui GPT‑5.6, rilasciato la scorsa settimana.
OpenAI annuncia GPT‑Red, un modello che automatizza il red‑teaming attaccando altri LLM. L’azienda lo collega al recente rilascio di GPT‑5.6, presentato come il più robusto finora grazie all’addestramento contro questo sistema1.
GPT‑Red svolge il lavoro dei team rossi: cerca modi per rompere o dirottare un modello prima del rilascio. OpenAI lo usa come “sparring partner” per far emergere falle e comportamenti abusabili, poi corregge le debolezze osservate in sviluppo1. L’azienda descrive l’approccio come un “future‑proofing” delle procedure di sicurezza, con l’obiettivo di anticipare i vettori d’attacco e ridurre l’esposizione quando i modelli arrivano agli utenti1.
Il contesto sono gli agenti basati su LLM. Interagiscono con file, siti, codice di terze parti e altri agenti. Questo aumenta la complessità e la varietà delle interazioni. “La superficie di rischio cresce insieme al ‘blast radius’ di un errore”, afferma OpenAI1. In questo scenario, coprire l’intero spettro degli attacchi con soli team umani diventa difficile. L’automazione amplia la gamma dei tentativi e accelera i cicli di test1.
OpenAI attribuisce a questo confronto continuo il merito della maggiore resistenza di GPT‑5.6. Il modello ha affrontato attacchi generati da GPT‑Red durante lo sviluppo, un processo pensato per scovare punti di cedimento prima che finiscano in produzione1. La logica è semplice: simulare l’avversario, osservare dove il sistema cede, chiudere le falle e ripetere.
Il red‑teaming, spiega l’azienda, non verifica solo la conformità a regole. Cerca percorsi di abuso, prompt che eludono i filtri, combinazioni di input che inducono azioni indesiderate. L’automazione permette di esplorare più varianti, con più velocità, rispetto a un gruppo limitato di tester umani1.
OpenAI legge in GPT‑Red un modo per restare davanti agli attaccanti mentre i modelli assumono ruoli più interconnessi. La priorità è preparare i sistemi a minacce che cambiano in fretta, non inseguirle dopo un incidente1.
“Superficie di rischio” e “blast radius” non sono solo etichette. In un agente che legge documenti, naviga il web e chiama strumenti esterni, un singolo errore può propagarsi oltre l’interfaccia del modello. Per OpenAI, proprio per questo serve uno sparring partner instancabile in fase di sviluppo1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.