Accesso ai modelli AI: cloud gestito vs mercato grigio di proxy

OpenAI porta GPT‑5.6 su Amazon Bedrock. In parallelo, rivenditori di token LLM offrono proxy a sconto orchestrati con pool di chiavi API, soprattutto in Cina. La tesi è semplice: l’accesso ai modelli si biforca tra canali ufficiali, con controlli e costi prevedibili, e un mercato grigio che taglia i prezzi e aggira i vincoli.

1) Adozione enterprise: GPT‑5.6 su Amazon Bedrock

OpenAI rende disponibili GPT‑5.6 Sol, Terra e Luna su Amazon Bedrock in disponibilità generale. Si invocano via OpenAI Responses API sull’endpoint bedrock‑mantle. Le aziende li usano dentro sicurezza, area geografica e controllo costi offerti da AWS. La frizione operativa scende. Gli sviluppatori non cambiano SDK. Non costruiscono infrastrutture parallele. Mantengono lo stesso schema d’accesso API e selezionano il modello nella chiamata.

I tre modelli coprono ruoli distinti. Sol è il riferimento per il ragionamento. Terra bilancia prestazioni e costi in produzione. Luna privilegia inferenze rapide a basso costo. La gamma va da agenti per il coding e ragionamento su orizzonti lunghi a inferenza ad alto volume con vincoli di latenza. Lato gestione, Bedrock estende proprietà della piattaforma AWS: sicurezza nel perimetro AWS, elaborazione per Region, controlli di spesa. Per i team IT e compliance, questo consente di applicare processi esistenti anche all’inferenza dei GPT‑5.6, senza disegnare procedure ad hoc.

L’offerta si posiziona sul versante “controllo e integrazione”. A parità di API, l’ancoraggio a Bedrock porta i modelli di frontiera dentro strumenti e confini già in uso. Il valore è operativo e di governance, oltre che di prestazioni del modello.

2) Il mercato grigio: proxy scontati e pool di chiavi

All’altro estremo si muove un mercato parallelo di accesso a sconto. Rivenditori aggregano chiavi API da più fonti e instradano il traffico attraverso proxy. Offrono prezzi sotto i listini ufficiali. L’inchiesta di Matt Lenhard, rilanciata da Simon Willison, colloca il fenomeno soprattutto in Cina. I venditori descrivono tre tattiche per abbassare i costi: sfruttare periodi di prova gratuiti; instradare richieste tramite bot di supporto non protetti; in alcuni casi usare carte compromesse o forzare chargeback.

Il software che alimenta questi proxy è open source. I nomi citati sono one‑api e il suo fork più attivo, new‑api. Nascono per usi legittimi: fungono da proxy e bilanciano il carico tra più credenziali API. In questo contesto, orchestrano pool di chiavi per rivendere accessi a sconto e aggirare restrizioni geografiche. La domanda non manca. Acquirenti cercano token a basso costo e vie d’uscita dai blocchi regionali. Alcuni puntano alla raccolta di dati per la distillazione di modelli.

Qui l’economia batte la gestione del rischio. I costi scendono grazie a fonti opache di credenziali e a canali non ufficiali. Ma si perdono tracciamento, responsabilità e un perimetro di sicurezza definito. Il proxy concentra il traffico e media l’accesso. Non esistono garanzie su conservazione dei dati o rispetto delle policy del fornitore originale, perché l’intermediazione nasce per eludere quei vincoli.

3) Come questi assi si incontrano nelle operazioni e nella governance

Questi due canali rispondono alla stessa esigenza: accedere a modelli di frontiera senza rallentare i progetti. Bedrock propone un percorso “entro i binari” di AWS. Riduce l’integrazione, porta la sicurezza nel perimetro già adottato e centralizza il controllo della spesa. I proxy a sconto tagliano ancora di più i costi e rimuovono frizioni amministrative. Ma spostano rischi legali e tecnici dentro l’applicazione stessa, spesso fuori dalla vista dei team di sicurezza.

Per chi costruisce e mette in produzione sistemi AI, la convivenza crea tensioni operative. Il procurement valuta prezzi su Bedrock. Intanto, team o singoli sviluppatori possono testare o persino avviare servizi con “token scontati”, senza le cautele IT. Le due pratiche competono dentro la stessa organizzazione: controllo centralizzato contro scorciatoie tattiche. Il risultato è eterogeneità di percorsi dati e una superficie di rischio meno leggibile.

La dinamica incrocia anche il tema della robustezza dei modelli. Anthropic presenta Claude Opus 5 come in testa alla Artificial Analysis leaderboard e “thoughtful and proactive”, con un posizionamento che si avvicina alla “frontier intelligence” di Fable 5 a metà del prezzo, secondo il post rilanciato da Simon Willison. Restano disponibili modalità base e “fast mode”, con prezzo doppio per la seconda rispetto al modello base. Sul fronte sicurezza, Boris Cherny scrive: “Opus 5 is our least prompt injectable model yet” e rimanda alla System Card, che lo indica a pagina 73. La sua è una valutazione qualitativa, supportata da PI evals e red teaming, senza numeri o casi esemplificativi pubblicati nella nota.

Questi elementi contano in produzione. Un modello meno vulnerabile al prompt injection riduce esposizione in agenti e tool connessi. Ma il canale d’accesso resta decisivo: controlli di Bedrock vincolano dove e come circolano dati e chiavi; i proxy grigi, per definizione, aggirano vincoli e oscurano tracciati di audit. Robustezza del modello e robustezza dell’infrastruttura non sono sostituibili. Servono entrambe.

4) Tensioni regolatorie e geopolitiche

L’accesso non è solo un fatto tecnico. Tocca anche equilibrio regolatorio e geografie. Dopo il lancio di Kimi di Moonshot AI, TechCrunch riferisce che OpenAI e Anthropic avrebbero fatto lobbying a Washington contro i “modelli cinesi aperti”. La discussione non è rimasta su X. Si è spostata in incontri con regolatori, con timori su cosa possa circolare oltreconfine. Il nodo operativo è chiaro: come trattare l’apertura quando riguarda sistemi sviluppati in Cina.

Il mercato grigio dei proxy introduce un’altra variabile. Se esistono canali che rivendono accesso e instradano richieste aggirando restrizioni geografiche, l’efficacia di eventuali strette regolatorie si riduce. Gli acquirenti citati nell’inchiesta cercano proprio vie alternative ai blocchi regionali. Alcuni mirano a raccogliere dati per la distillazione di modelli. Questo incrocia in modo diretto i timori di “circolazione oltreconfine” evocati nel dibattito su Kimi.

C’è poi un effetto riflesso sul mercato ufficiale. Se Bedrock distribuisce GPT‑5.6 dentro controlli enterprise e per Region, offre ai responsabili sicurezza e legali un argomento pratico: si possono adottare modelli di frontiera senza uscire dal perimetro AWS. Al contrario, la disponibilità di proxy scontati riduce la barriera di prezzo e crea pressione a “fare presto”, spesso senza presidio delle policy interne. Le scelte di procurement si spostano dal “quale modello” al “quale canale”. È una decisione di rischio, non solo di funzionalità o costo unitario.

La traiettoria, per ora, è duplice. Piattaforme cloud consolidano l’offerta con modelli di frontiera integrati e governabili. Il mercato grigio moltiplica accessi e abbassa costi, a prezzo di controllo e tracciabilità. Nel mezzo, nuovi modelli come Opus 5 alzano l’asticella su leaderboard e resilienza a prompt injection, ma non risolvono il tema di dove passano i dati e con quali garanzie. La prossima ondata di decisioni, in azienda e nei regolatori, partirà da qui: scegliere il canale, oltre che il modello.