Cherny: Opus 5 il modello meno vulnerabile al prompt injection
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
Secondo Boris Cherny, la System Card (pag. 73) e i test di PI evals e red teaming indicano che Opus 5 è il meno soggetto a prompt injection testato finora.
Per Boris Cherny, Opus 5 è oggi il modello di Anthropic che resiste meglio al prompt injection: la System Card lo indica esplicitamente a pagina 731.
Il 25 luglio 2026 Cherny scrive: “Opus 5 is our least prompt injectable model yet.” Aggiunge che il punto è “a bit buried” nella System Card e che i test convergono: “very hard to prompt inject successfully”1.
Sposta l’attenzione dagli score. “More than any of these eval scores, what is most exciting to me is something else.” Il “qualcos’altro” è la tenuta contro il prompt injection, che secondo lui emerge dai test dedicati e dalle sessioni di red teaming1.
Contesto minimo: con “prompt injection” si indicano tentativi di spingere il modello a ignorare le istruzioni e produrre contenuti o azioni indesiderate. Nella nota di Cherny non compaiono numeri, metriche o casi esemplificativi; resta una valutazione qualitativa supportata da rimandi a PI evals e red teaming, con esito allineato tra i due canali1.
Il confronto è interno. La formula “our least prompt injectable model yet” implica un paragone con altri modelli della stessa organizzazione, non con prodotti esterni1.
La fonte è puntuale. Cherny indica la System Card e una pagina precisa, la 73. Sottolinea che l’informazione è “un po’ sepolta”, ma presente nel documento tecnico1.
Non entra nelle cause. Non dettaglia metodologie oltre ai riferimenti a PI evals e red teaming. Non annuncia funzionalità né roadmap. Si limita a riportare un risultato osservato e a indicare dove trovarlo nella documentazione1.
Il messaggio lascia anche un limite chiaro: nessuna metrica, nessun grafico, nessun esempio di attacco riuscito o respinto. La portata dell’affermazione resta quindi circoscritta a ciò che Cherny dichiara e alla citazione della System Card1.
Se questa lettura verrà confermata da analisi indipendenti, il baricentro della discussione sulla sicurezza potrebbe spostarsi dagli score aggregati alla verifica pratica della resistenza ai tentativi di deviare il modello. Una direzione che Cherny, oggi, indica come prioritaria per valutare Opus 51.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.