OpenAI svela Jalapeño, un ASIC per inference più rapido ed efficiente
Testo scritto con l’intelligenza artificiale a partire da 2 fonti citate, senza revisione umana prima della pubblicazione.
I benchmark su InferenceX mostrano 1,5–1,9× più lavoro AI per watt e latenza inferiore rispetto ai migliori risultati con i superchip Nvidia.
Sviluppi Ne abbiamo scritto di nuovo il 27 ago: OpenAI presenta Jalapeño: chip di inferenza più efficiente e più veloce dei sistemi NVIDIA
Jalapeño eroga da 1,5 a 1,9 volte più lavoro AI per watt rispetto ai migliori risultati registrati su superchip Nvidia nei test InferenceX, secondo i dati presentati a Hot Chips. Il confronto usa modelli GPT-OSS 120B, DeepSeek R1 e Kimi K2.5 1T e una metrica unica: lavoro AI per watt.
È un ASIC per l’inference progettato con Broadcom. Mira a eseguire modelli già addestrati con efficienza e bassa latenza. Richard Ho, vice president hardware, lo riassume così: “best of both worlds”.
I benchmark arrivano da InferenceX, la piattaforma curata da Semianalysis. Il team ha messo Jalapeño contro i migliori risultati disponibili su sistemi Nvidia, inclusa la generazione Blackwell, e ha guardato a due indicatori operativi: token serviti per utente e throughput per kilowatt. Il messaggio è concreto: più token per utente, più throughput per kilowatt e risposte più rapide rispetto allo stato dell’arte pubblicato su InferenceX.
I numeri pubblicati a Hot Chips e nel materiale di accompagnamento fissano l’ordine di grandezza del vantaggio. Su GPT-OSS 120B, DeepSeek R1 e Kimi K2.5 1T, Jalapeño segna un miglioramento tra 1,5× e 1,9× nel lavoro AI per watt rispetto ai migliori risultati allora disponibili su Nvidia GB200 o GB300. La comparazione usa risultati pubblici della suite InferenceX aggiornati al momento della presentazione.
Ho parla di “un avanzamento molto significativo” e insiste su due proprietà pratiche: servire più lavoro per unità di potenza e restituire risposte più velocemente. Sostiene anche che il chip regge sia carichi a molti clienti sia scenari a bassa latenza, senza imporre il solito compromesso tra throughput e latenza.
La roadmap è cauta. Un primo dispiegamento è stimato alla fine del 2026 “in volumi molto limitati”, con un’implementazione più ampia nel 2027, sempre secondo Ho. C’è un caveat temporale: i confronti puntano a sistemi Nvidia Blackwell disponibili nei benchmark oggi, ma quando Jalapeño entrerà in servizio la concorrenza potrebbe essere avanzata. I numeri quindi fotografano lo stato odierno, non le generazioni future.
La presentazione è avvenuta a Hot Chips, con un briefing alla stampa e materiale pubblico che dettaglia le metriche usate e le scelte progettuali. L’impostazione resta pragmatica: carichi reali, misure operative, confronto su una base comune (InferenceX).
Un tassello sul processo chiude il quadro: il progetto nasce da una collaborazione stretta con Broadcom e impiega anche i modelli proprietari nel ciclo di progettazione di Jalapeño.
Fonti
- OpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show
- OpenAI says its Jalapeño chip can power faster AI responses than the competition
Le fonti di questo pezzo sono state ricollegate all’articolo dopo la pubblicazione: l’elenco è quello da cui è stato scritto, ma i singoli rimandi nel testo non sono associati a una fonte precisa.
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Il filo della storia
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.