OpenAI e Broadcom lanciano il chip IA Jalapeño

Il chip IA personalizzato Jalapeño di OpenAI e Broadcom (AVGO) segna il primo ingresso di OpenAI nel settore del silicio proprietario, progettato specificamente per carichi di lavoro di inferenza sia per i suoi modelli che per sistemi IA di terze parti. Sviluppato in soli nove mesi, il chip reportedly supera i processori allo stato dell'arte attuale nei test iniziali, una sfida diretta a Nvidia (NVDA).

In breve

• Nome del chip: Jalapeño, progettato da OpenAI, prodotto in partnership con Broadcom
• Timeline di sviluppo: nove mesi dalla progettazione al completamento
• Caso d'uso principale: inferenza IA, compatibile con modelli OpenAI e sistemi di terze parti
• Rollout: inizia più avanti nel 2025 e si estende negli anni successivi come piattaforma multi generazionale
• Reazione del mercato: le azioni Broadcom sono salite di più dell'1% in seguito all'annuncio

Cos'è Jalapeño e perché OpenAI l'ha costruito

L'inferenza è il battito operativo di qualsiasi sistema IA implementato. È il processo di calcolo che esegue un modello addestrato per generare output, che significhi rispondere a un prompt, classificare un'immagine o generare codice. A differenza dell'addestramento, che è una spesa capitale una tantum, l'inferenza è continua e si ridimensiona direttamente con la domanda degli utenti. Costruire un chip ottimizzato esattamente per quel carico di lavoro, piuttosto che affidarsi ai processori di uso generale, è il modo in cui si comprime costo e latenza su larga scala.

Il presidente di OpenAI Greg Brockman ha inquadrato il chip come parte di una strategia di infrastruttura full stack deliberata. L'obiettivo, secondo le sue parole, è rendere il calcolo più abbondante in modo che l'IA diventi più veloce, più affidabile e più conveniente sia per i singoli che per le aziende. Controllare una maggiore parte dello stack sottostante significa anche che OpenAI può sintonizzare i suoi sistemi precisamente in base alle architetture dei suoi modelli piuttosto che lavorare intorno ai vincoli dell'hardware che non progetta.

Il problema Nvidia che OpenAI sta cercando di risolvere

OpenAI è uno dei maggiori acquirenti singoli dei processori ad alta potenza di Nvidia. Quella relazione non scomparirà da un giorno all'altro, ma crea una vulnerabilità strutturale. I chip di Nvidia sono in straordinaria richiesta in tutta l'industria dell'IA, il che significa che OpenAI compete con ogni altra azienda IA, hyperscaler e azienda che distribuisce modelli di grandi dimensioni solo per assicurarsi la fornitura. I tempi di consegna e i vincoli di allocazione sono rischi operativi reali su questa scala.

Lo sviluppo di silicio proprietario attraverso Broadcom dà a OpenAI un canale di fornitura parallelo. Anche se Jalapeño non sostituisce completamente l'hardware Nvidia, riduce la dipendenza e dà a OpenAI un potere negoziale che attualmente manca. La finestra di sviluppo di nove mesi è notevole qui: segnala che OpenAI ha costruito capacità di progettazione di chip interne abbastanza velocemente da iterare in modo significativo, piuttosto che trattare questo come un prototipo una tantum.

Anche il ruolo di Broadcom è significativo. L'azienda è diventata il partner preferito per gli hyperscaler che progettano circuiti integrati applicativi specifici, con i Tensor Processing Unit di Google tra gli esempi più importanti. L'aumento del titolo Broadcom di più dell'1% in seguito all'annuncio riflette la lettura del mercato secondo cui questa relazione si approfondirà e genererà entrate significative.

Come la competizione si configura

OpenAI non sta pioneering il silicio personalizzato tanto quanto sta recuperando un modello già ben consolidato tra le più grandi aziende tecnologiche. Amazon, Google e Microsoft hanno ciascuno processori IA personalizzati in produzione o in sviluppo attivo. I chip Trainium e Inferentia di Amazon sono già affittati a clienti terzi attraverso AWS. I TPU di Google, disponibili tramite Google Cloud, sono stati utilizzati per l'inferenza su larga scala per anni. Meta progetta e implementa i suoi chip per l'IA e altri carichi di lavoro internamente e ha ipotizzato l'idea di offrire servizi di cloud computing, il che la metterebbe in diretta concorrenza con Nvidia.

Sul lato dei chip competitivi, AMD sta spingendo forte nell'hardware del data center IA. Qualcomm e Cerebras stanno perseguendo ciascuno angoli diversi sul mercato dell'inferenza. Nessuno di questi sfidanti ha soppiantato il dominio di Nvidia, ma collettivamente stanno restringendo il fossato. Jalapeño aggiunge un'altra alternativa credibile a quel elenco, e il fatto che OpenAI affermi di superare i chip allo stato dell'arte attuale nei test iniziali farà pressione su Nvidia per accelerare le sue stesse comunicazioni sulla roadmap.

Per chi è davvero questo chip

Il posizionamento è più ampio dello stack di prodotti di OpenAI. La dichiarazione di Brockman menziona esplicitamente la compatibilità con modelli IA in tutto il settore, non solo quelli di OpenAI. Quel linguaggio suggerisce che OpenAI potrebbe eventualmente offrire calcolo basato su Jalapeño a clienti esterni, simile al modello che Amazon e Google hanno adottato. Se ciò accade, le ambizioni di OpenAI passano da laboratorio IA a fornitore di infrastrutture, un'espansione significativa della sua superficie di business.

Per ora, il beneficiario immediato è lo stack di inferenza di OpenAI. Eseguire ChatGPT e l'API su larga scala è costoso, e qualsiasi guadagno di efficienza a livello di chip fluisce direttamente nel margine lordo. Data la pressione dei costi che deriva dalla gestione di centinaia di milioni di utenti, anche i modesti risparmi per query si compongono in numeri materiali al volume di OpenAI.

Broadcom beneficia di un design win di alto profilo che convalida la sua posizione come partner di chip preferito per le aziende che desiderano silicio personalizzato senza costruire le proprie capacità di fabbricazione. Nvidia affronta un segnale a più lungo termine secondo cui i suoi clienti più importanti stanno attivamente investendo in alternative, anche se quelle alternative sono complementari piuttosto che puramente sostitutive oggi.

Domande frequenti

Che cosa fa Jalapeño di diverso dai chip di Nvidia?

Jalapeño è costruito appositamente per l'inferenza, il processo di esecuzione dei modelli IA addestrati per produrre output, piuttosto che per l'ampia gamma di compiti di calcolo che gestiscono i GPU di Nvidia. OpenAI afferma che supera i chip allo stato dell'arte attuale nei test iniziali, sebbene i benchmark indipendenti non siano stati ancora pubblicati.

Jalapeño sostituirà l'hardware Nvidia presso OpenAI?

OpenAI non ha indicato che prevede di eliminare gradualmente i processori Nvidia. Il chip è descritto come parte di una strategia di piattaforma multi generazionale, suggerendo che funzionerà insieme all'hardware Nvidia esistente piuttosto che sostituirlo completamente nel breve termine.

OpenAI potrebbe offrire calcolo basato su Jalapeño ad altre aziende?

OpenAI non ha annunciato formalmente l'accesso al cloud esterno al chip, ma l'obiettivo dichiarato di progettarlo per l'uso con modelli IA in tutto il settore lascia quella porta aperta. Amazon e Google hanno già percorso esattamente quella strada con i loro chip personalizzati.

Qual è il ruolo di Broadcom nel chip?

Broadcom è il partner di produzione e progettazione. OpenAI ha progettato il chip e Broadcom ha fornito l'infrastruttura di ingegneria e produzione per portarlo al silicio. Broadcom ha svolto un ruolo simile per i TPU di Google e altri chip personalizzati degli hyperscaler.

Dove gara del silicio personalizzato va da qui

Jalapeño è descritto come il primo chip di una piattaforma di calcolo multi generazionale, con rollout più ampio che inizia più avanti nel 2025. Quel linguaggio della roadmap è importante: significa che OpenAI si sta impegnando a iterare su questo hardware nel tempo, non a trattarlo come un esperimento una tantum. Per Nvidia, il punto dati più preoccupante non è un singolo chip ma l'effetto cumulativo di ogni grande azienda IA che costruisce il suo silicio. La diversificazione dell'offerta in tutto il settore limita strutturalmente il potere di prezzo di Nvidia nel tempo, anche se nessuna singola alternativa corrisponde al suo attuale soffitto di prestazioni.