La tecnologia CPO (co-packaged optoelectronics) esiste da tempo ma è ancora in fase di sviluppo.Direttore senior di componenti ottici e integrazione presso Corning Optical Communications, ha spiegato come il vetro svolga un ruolo chiave nel posizionare i convertitori elettro-ottici a base di silicio il più vicino possibile ai processori al silicio.
Le reti di data center si stanno evolvendo rapidamente e questo slancio si è accelerato con l'aumento dell'IA e la diffusione su larga scala di cluster di IA.In particolare con la distribuzione dell'architettura DGX SuperPOD di NVIDIA e dei cluster TPU di GoogleQuesto cambiamento è guidato dalla domanda di calcolo ad alte prestazioni per supportare la formazione e le attività di inferenza dell'IA.NVIDIA da sola dovrebbe spedire milioni di unità GPU ottimizzate per l'IA ogni anno entro i prossimi cinque anni, raggiungendo una scala significativa entro il 2028.
Il numero di unità trasmettitore richieste per costruire queste reti raggiungerà decine di milioni all'anno e questi dispositivi dovranno operare a velocità massime di 1,6 Tbps e 3,2 Tbps.Gli analisti del settore prevedono che in futuro ogni acceleratore (GPU) sarà dotato di più di 10 ricevitori, il che significa che la domanda di connessioni in fibra ottica aumenterà di circa 10 volte rispetto agli attuali livelli di diffusione.
In un tipico data center, un transceiver Ethernet standard innescabile consuma circa 20 watt di potenza.Sulla base delle spedizioni correnti, si stima che circa 200 megawatt (MW) di potenza saranno utilizzati per i ricevitori di potenza nel 2024.Sulla base della traiettoria di sviluppo dei ricevitori e dell'aumento previsto di dieci volte della domanda di connettività ottica, si prevede che l'impiego di potenza dei trasmettitori raggiungerà 2 gigawatt (GW) all'anno, equivalente all'energia generata da una grande centrale nucleare.Questo non include la potenza necessaria per alimentare l'elettronica del lato host e i retimer elettrici utilizzati per trasmettere dati dai circuiti integrati agli trasmettitori e ricevitori situati sul lato anteriore del dispositivo.
Ad esempio, per un data center di intelligenza artificiale dotato di un milione di GPU, l'introduzione della tecnologia CPO potrebbe risparmiare al data center circa 150 megawatt di capacità di generazione di energia.Oltre a ridurre gli investimenti necessari per costruire gli impianti di produzione di energia corrispondenti, questa tecnologia riduce notevolmente anche i costi operativi, a seconda delle differenze regionali dei prezzi dell'energia, il risparmio annuo di energia elettrica potrebbe facilmente superare i 100 milioni di euro.La Commissione europea ha adottato una proposta di regolamento (CE) del Consiglio che modifica il regolamento (CE) n., la domanda di larghezza di banda elevata,le interconnessioni ottiche a bassa potenza sono in aumento nei centri di supercalcolo (come il Wuxi Sunway TaihuLight) e nei centri di calcolo intelligenti (come i cluster di calcolo AI a Pechino e Shenzhen)La tecnologia CPO dovrebbe essere fondamentale per ridurre il consumo di energia e aumentare l'efficienza delle GPU prodotte a livello nazionale.L'innovazione è cruciale.
Introduzione della tecnologia CPO
La CPO è la tecnologia che ha maggiori probabilità di superare a breve termine questo collo di bottiglia del consumo di energia.Questa tecnologia sposta il modulo di conversione elettro-ottico dal ricevitore sul pannello anteriore all'interno del dispositivo, idealmente integrandolo direttamente sul substrato del pacchetto CPU o GPU. Questo riduce al minimo la perdita di potenza nel canale di rame, con conseguente collegamento più efficiente dal punto di vista energetico.,Il consumo di energia può essere ridotto di oltre il 50%, e in alcuni casi fino al 75%. This energy-saving advantage is achieved not only by reducing the use of high-loss copper channels but also by simplifying or even eliminating the digital signal processor (DSP) required to compensate for electrical signal transmission losses.
In sintesi, la tecnologia CPO offre connettività ottica ad alta velocità, a bassa potenza e a bassa latenza.
Un'altra alternativa di risparmio energetico da considerare è il modulo ottico lineare collegato (LPO).riduce il consumo di energia e la latenza mantenendo il fattore di forma e l'ecosistema di un trasmettitore innescabile del pannello frontaleMentre la CPO offre una migliore integrità del segnale e una minore latenza, la LPO è più conveniente, in particolare per applicazioni a corto raggio.combinato con il suo rapido time-to-market, potrebbe ritardare l'adozione diffusa della tecnologia CPO.
Tuttavia, man mano che le velocità di collegamento aumentano fino a 200G e oltre, la LPO consuma più potenza della CPO e diventa significativamente più difficile da gestire al fine di garantire un'alta qualità del segnale.Mentre la tecnologia continua a progredire, la CPO dovrebbe diventare la soluzione preferita in futuro.
Il vetro favorisce la tecnologia CPO
Il vetro dovrebbe svolgere un ruolo chiave nella prossima generazione di tecnologia CPO.Portare i convertitori elettro-ottici (principalmente chip fotonici al silicio) il più vicino possibile ai processori di silicio effettivi (CPU e GPU), è necessaria una nuova tecnologia di imballaggio che non solo supporti dimensioni di substrato più grandi, ma che consenta anche la connettività ottica ai chip fotonici al silicio.
L'imballaggio dei semiconduttori è tradizionalmente basato principalmente su substrati organici, che hanno un coefficiente di espansione termica superiore al silicio.che limita le dimensioni massime dei pacchetti di semiconduttoriMentre l'industria continua a spingere per i substrati di imballaggio più grandi sulle piattaforme di tecnologia biologica esistenti, reliability issues (such as solder joint integrity issues and increased risk of delamination) and manufacturing challenges (such as high-quality fine-pitch interconnect structures and high-density wiring) have become increasingly prominentTuttavia, grazie a una progettazione ottimizzata, il vetro può ottenere un coefficiente di espansione termica più vicino a quello dei chip di silicio.superando i tradizionali substrati organiciQuesto substrato di vetro, appositamente lavorato, presenta un'eccezionale stabilità termica, riducendo lo stress meccanico e i danni durante le fluttuazioni di temperatura.La sua elevata resistenza meccanica e piattezza forniscono una solida base per l'affidabilità degli imballaggi a chipInoltre, i substrati in vetro supportano una maggiore densità di interconnessione e un tono più sottile, migliorando le prestazioni elettriche e riducendo gli effetti parassitari.Queste proprietà rendono il vetro una scelta altamente affidabile e precisa per l'imballaggio avanzato di semiconduttoriDi conseguenza, l'industria del confezionamento dei semiconduttori sta sviluppando attivamente la tecnologia avanzata del substrato di vetro come tecnologia di substrato di prossima generazione.
Substrati di vetro con guida d'onda
Oltre alle sue eccellenti proprietà termiche e meccaniche, il vetro può anche essere manipolato per funzionare come una guida d'onda ottica.Le guide d'onda in vetro sono generalmente create attraverso un processo chiamato scambio ionico- ioni nel vetro vengono sostituiti da ioni diversi provenienti da una soluzione salina, modificando così l'indice di rifrazione del vetro.queste regioni modificate possono guidare la luceQuesta tecnica consente di regolare con precisione le proprietà dei conduttori d'onda, rendendolo adatto a una varietà di applicazioni ottiche.La luce può propagarsi lungo le guide d'onda di vetro integrate e essere accoppiata in modo efficiente in fibre ottiche o chip fotonici al silicioQuesto rende il vetro una scelta di materiale attraente per applicazioni avanzate di CPO.
L'integrazione di interconnessioni elettriche e ottiche sullo stesso substrato aiuta anche ad affrontare le sfide di densità di interconnessione che le aziende devono affrontare quando costruiscono grandi cluster di IA.il numero di canali ottici è limitato dalla geometria delle fibre ottiche. il diametro di un tipico rivestimento in fibra ottica è di 127 micronLe guide d'onda in vetro, tuttavia, consentono arrangiamenti più densi, aumentando significativamente la densità di input/output (I/O) rispetto alle connessioni dirette fibre-to-chip.
L'integrazione di interconnessioni elettriche e ottiche non solo risolve i problemi di densità, ma migliora anche le prestazioni generali e la scalabilità dei cluster di IA.La natura compatta delle guide d'onda in vetro consente di ospitare più canali ottici nello stesso spazio fisico, aumentando così la capacità e l'efficienza di trasmissione dei dati del sistema.Questo progresso è cruciale per guidare lo sviluppo di infrastrutture di IA di prossima generazione in scenari in cui i sistemi di IA devono elaborare enormi quantità di dati, la tecnologia di interconnessione ad alta densità è fondamentale per una gestione efficiente.
L'integrazione di guide d'onda in vetro consente di costruire un sistema ottico completo sullo stesso substrato, consentendo ai circuiti integrati fotonici di comunicare direttamente attraverso guide d'onda ottiche.Questo processo elimina la necessità di interconnessioni in fibra ottica e migliora significativamente la larghezza di banda e la copertura della comunicazione inter-chipIn sistemi ad alta densità con numerosi componenti interconnessi, l'uso di guide d'onda in vetro può ottenere una minore perdita di segnale, una maggiore densità di larghezza di banda,e una maggiore durata rispetto alle fibre ottiche discreteQuesti vantaggi rendono le guide d'onda in vetro una scelta ideale per i sistemi di interconnessione ottica ad alte prestazioni.
L'applicazione della tecnologia CPO ai data center di nuova generazione e alle reti di supercomputer AI può aumentare la larghezza di banda di chip escape, aprendo nuove possibilità per l'accesso a dati ad alta velocità.con una lunghezza di carica non superiore a 50 mm,Gli architetti di rete hanno ora un'opportunità unica di ri-immaginare e riprogettare le architetture di rete.raggiungeranno prestazioni di rete superiori, favorendo miglioramenti dell'efficienza operativa e ottimizzazione dei processi.
Conclusioni
La tecnologia CPO ha il potenziale per rivoluzionare l'architettura di interconnessione dell'IA a più livelli.rendere i sistemi di intelligenza artificiale più rispettosi dell'ambiente ed economiciInoltre, CPO migliora l'efficienza e la scalabilità dei sistemi di IA, consentendo loro di gestire facilmente compiti più grandi e complessi.La CPO può aumentare le velocità di trasmissione dei dati, garantendo una comunicazione più rapida e affidabile tra i componenti dell'IA. Ciò contribuirà anche a ridurre i colli di bottiglia nei futuri sistemi di IA, garantendo un funzionamento del sistema più agevole ed efficiente.
Le future interconnessioni di IA dovrebbero introdurre collegamenti ottici diretti, eliminando la necessità di interruttori di calcolo.Questa innovazione amplierà la larghezza di banda per le attività di IA e migliorerà la velocità e l'efficienza dell'elaborazione di grandi set di datiIl vetro, con le sue superiori capacità di trasmissione dei dati e la sua scalabilità, è un materiale ideale per consentire questi progressi tecnologici.I collegamenti ottici a base di vetro diventeranno un fattore fondamentale per i sistemi di IA di prossima generazione, che costituisce un'infrastruttura indispensabile per l'elaborazione ad alte prestazioni e le applicazioni avanzate di IA.
NEW LIGHT OPTICS TECHNOLOGY LIMITED si sforzerà di cogliere ogni opportunità e di contribuire.
La tecnologia CPO (co-packaged optoelectronics) esiste da tempo ma è ancora in fase di sviluppo.Direttore senior di componenti ottici e integrazione presso Corning Optical Communications, ha spiegato come il vetro svolga un ruolo chiave nel posizionare i convertitori elettro-ottici a base di silicio il più vicino possibile ai processori al silicio.
Le reti di data center si stanno evolvendo rapidamente e questo slancio si è accelerato con l'aumento dell'IA e la diffusione su larga scala di cluster di IA.In particolare con la distribuzione dell'architettura DGX SuperPOD di NVIDIA e dei cluster TPU di GoogleQuesto cambiamento è guidato dalla domanda di calcolo ad alte prestazioni per supportare la formazione e le attività di inferenza dell'IA.NVIDIA da sola dovrebbe spedire milioni di unità GPU ottimizzate per l'IA ogni anno entro i prossimi cinque anni, raggiungendo una scala significativa entro il 2028.
Il numero di unità trasmettitore richieste per costruire queste reti raggiungerà decine di milioni all'anno e questi dispositivi dovranno operare a velocità massime di 1,6 Tbps e 3,2 Tbps.Gli analisti del settore prevedono che in futuro ogni acceleratore (GPU) sarà dotato di più di 10 ricevitori, il che significa che la domanda di connessioni in fibra ottica aumenterà di circa 10 volte rispetto agli attuali livelli di diffusione.
In un tipico data center, un transceiver Ethernet standard innescabile consuma circa 20 watt di potenza.Sulla base delle spedizioni correnti, si stima che circa 200 megawatt (MW) di potenza saranno utilizzati per i ricevitori di potenza nel 2024.Sulla base della traiettoria di sviluppo dei ricevitori e dell'aumento previsto di dieci volte della domanda di connettività ottica, si prevede che l'impiego di potenza dei trasmettitori raggiungerà 2 gigawatt (GW) all'anno, equivalente all'energia generata da una grande centrale nucleare.Questo non include la potenza necessaria per alimentare l'elettronica del lato host e i retimer elettrici utilizzati per trasmettere dati dai circuiti integrati agli trasmettitori e ricevitori situati sul lato anteriore del dispositivo.
Ad esempio, per un data center di intelligenza artificiale dotato di un milione di GPU, l'introduzione della tecnologia CPO potrebbe risparmiare al data center circa 150 megawatt di capacità di generazione di energia.Oltre a ridurre gli investimenti necessari per costruire gli impianti di produzione di energia corrispondenti, questa tecnologia riduce notevolmente anche i costi operativi, a seconda delle differenze regionali dei prezzi dell'energia, il risparmio annuo di energia elettrica potrebbe facilmente superare i 100 milioni di euro.La Commissione europea ha adottato una proposta di regolamento (CE) del Consiglio che modifica il regolamento (CE) n., la domanda di larghezza di banda elevata,le interconnessioni ottiche a bassa potenza sono in aumento nei centri di supercalcolo (come il Wuxi Sunway TaihuLight) e nei centri di calcolo intelligenti (come i cluster di calcolo AI a Pechino e Shenzhen)La tecnologia CPO dovrebbe essere fondamentale per ridurre il consumo di energia e aumentare l'efficienza delle GPU prodotte a livello nazionale.L'innovazione è cruciale.
Introduzione della tecnologia CPO
La CPO è la tecnologia che ha maggiori probabilità di superare a breve termine questo collo di bottiglia del consumo di energia.Questa tecnologia sposta il modulo di conversione elettro-ottico dal ricevitore sul pannello anteriore all'interno del dispositivo, idealmente integrandolo direttamente sul substrato del pacchetto CPU o GPU. Questo riduce al minimo la perdita di potenza nel canale di rame, con conseguente collegamento più efficiente dal punto di vista energetico.,Il consumo di energia può essere ridotto di oltre il 50%, e in alcuni casi fino al 75%. This energy-saving advantage is achieved not only by reducing the use of high-loss copper channels but also by simplifying or even eliminating the digital signal processor (DSP) required to compensate for electrical signal transmission losses.
In sintesi, la tecnologia CPO offre connettività ottica ad alta velocità, a bassa potenza e a bassa latenza.
Un'altra alternativa di risparmio energetico da considerare è il modulo ottico lineare collegato (LPO).riduce il consumo di energia e la latenza mantenendo il fattore di forma e l'ecosistema di un trasmettitore innescabile del pannello frontaleMentre la CPO offre una migliore integrità del segnale e una minore latenza, la LPO è più conveniente, in particolare per applicazioni a corto raggio.combinato con il suo rapido time-to-market, potrebbe ritardare l'adozione diffusa della tecnologia CPO.
Tuttavia, man mano che le velocità di collegamento aumentano fino a 200G e oltre, la LPO consuma più potenza della CPO e diventa significativamente più difficile da gestire al fine di garantire un'alta qualità del segnale.Mentre la tecnologia continua a progredire, la CPO dovrebbe diventare la soluzione preferita in futuro.
Il vetro favorisce la tecnologia CPO
Il vetro dovrebbe svolgere un ruolo chiave nella prossima generazione di tecnologia CPO.Portare i convertitori elettro-ottici (principalmente chip fotonici al silicio) il più vicino possibile ai processori di silicio effettivi (CPU e GPU), è necessaria una nuova tecnologia di imballaggio che non solo supporti dimensioni di substrato più grandi, ma che consenta anche la connettività ottica ai chip fotonici al silicio.
L'imballaggio dei semiconduttori è tradizionalmente basato principalmente su substrati organici, che hanno un coefficiente di espansione termica superiore al silicio.che limita le dimensioni massime dei pacchetti di semiconduttoriMentre l'industria continua a spingere per i substrati di imballaggio più grandi sulle piattaforme di tecnologia biologica esistenti, reliability issues (such as solder joint integrity issues and increased risk of delamination) and manufacturing challenges (such as high-quality fine-pitch interconnect structures and high-density wiring) have become increasingly prominentTuttavia, grazie a una progettazione ottimizzata, il vetro può ottenere un coefficiente di espansione termica più vicino a quello dei chip di silicio.superando i tradizionali substrati organiciQuesto substrato di vetro, appositamente lavorato, presenta un'eccezionale stabilità termica, riducendo lo stress meccanico e i danni durante le fluttuazioni di temperatura.La sua elevata resistenza meccanica e piattezza forniscono una solida base per l'affidabilità degli imballaggi a chipInoltre, i substrati in vetro supportano una maggiore densità di interconnessione e un tono più sottile, migliorando le prestazioni elettriche e riducendo gli effetti parassitari.Queste proprietà rendono il vetro una scelta altamente affidabile e precisa per l'imballaggio avanzato di semiconduttoriDi conseguenza, l'industria del confezionamento dei semiconduttori sta sviluppando attivamente la tecnologia avanzata del substrato di vetro come tecnologia di substrato di prossima generazione.
Substrati di vetro con guida d'onda
Oltre alle sue eccellenti proprietà termiche e meccaniche, il vetro può anche essere manipolato per funzionare come una guida d'onda ottica.Le guide d'onda in vetro sono generalmente create attraverso un processo chiamato scambio ionico- ioni nel vetro vengono sostituiti da ioni diversi provenienti da una soluzione salina, modificando così l'indice di rifrazione del vetro.queste regioni modificate possono guidare la luceQuesta tecnica consente di regolare con precisione le proprietà dei conduttori d'onda, rendendolo adatto a una varietà di applicazioni ottiche.La luce può propagarsi lungo le guide d'onda di vetro integrate e essere accoppiata in modo efficiente in fibre ottiche o chip fotonici al silicioQuesto rende il vetro una scelta di materiale attraente per applicazioni avanzate di CPO.
L'integrazione di interconnessioni elettriche e ottiche sullo stesso substrato aiuta anche ad affrontare le sfide di densità di interconnessione che le aziende devono affrontare quando costruiscono grandi cluster di IA.il numero di canali ottici è limitato dalla geometria delle fibre ottiche. il diametro di un tipico rivestimento in fibra ottica è di 127 micronLe guide d'onda in vetro, tuttavia, consentono arrangiamenti più densi, aumentando significativamente la densità di input/output (I/O) rispetto alle connessioni dirette fibre-to-chip.
L'integrazione di interconnessioni elettriche e ottiche non solo risolve i problemi di densità, ma migliora anche le prestazioni generali e la scalabilità dei cluster di IA.La natura compatta delle guide d'onda in vetro consente di ospitare più canali ottici nello stesso spazio fisico, aumentando così la capacità e l'efficienza di trasmissione dei dati del sistema.Questo progresso è cruciale per guidare lo sviluppo di infrastrutture di IA di prossima generazione in scenari in cui i sistemi di IA devono elaborare enormi quantità di dati, la tecnologia di interconnessione ad alta densità è fondamentale per una gestione efficiente.
L'integrazione di guide d'onda in vetro consente di costruire un sistema ottico completo sullo stesso substrato, consentendo ai circuiti integrati fotonici di comunicare direttamente attraverso guide d'onda ottiche.Questo processo elimina la necessità di interconnessioni in fibra ottica e migliora significativamente la larghezza di banda e la copertura della comunicazione inter-chipIn sistemi ad alta densità con numerosi componenti interconnessi, l'uso di guide d'onda in vetro può ottenere una minore perdita di segnale, una maggiore densità di larghezza di banda,e una maggiore durata rispetto alle fibre ottiche discreteQuesti vantaggi rendono le guide d'onda in vetro una scelta ideale per i sistemi di interconnessione ottica ad alte prestazioni.
L'applicazione della tecnologia CPO ai data center di nuova generazione e alle reti di supercomputer AI può aumentare la larghezza di banda di chip escape, aprendo nuove possibilità per l'accesso a dati ad alta velocità.con una lunghezza di carica non superiore a 50 mm,Gli architetti di rete hanno ora un'opportunità unica di ri-immaginare e riprogettare le architetture di rete.raggiungeranno prestazioni di rete superiori, favorendo miglioramenti dell'efficienza operativa e ottimizzazione dei processi.
Conclusioni
La tecnologia CPO ha il potenziale per rivoluzionare l'architettura di interconnessione dell'IA a più livelli.rendere i sistemi di intelligenza artificiale più rispettosi dell'ambiente ed economiciInoltre, CPO migliora l'efficienza e la scalabilità dei sistemi di IA, consentendo loro di gestire facilmente compiti più grandi e complessi.La CPO può aumentare le velocità di trasmissione dei dati, garantendo una comunicazione più rapida e affidabile tra i componenti dell'IA. Ciò contribuirà anche a ridurre i colli di bottiglia nei futuri sistemi di IA, garantendo un funzionamento del sistema più agevole ed efficiente.
Le future interconnessioni di IA dovrebbero introdurre collegamenti ottici diretti, eliminando la necessità di interruttori di calcolo.Questa innovazione amplierà la larghezza di banda per le attività di IA e migliorerà la velocità e l'efficienza dell'elaborazione di grandi set di datiIl vetro, con le sue superiori capacità di trasmissione dei dati e la sua scalabilità, è un materiale ideale per consentire questi progressi tecnologici.I collegamenti ottici a base di vetro diventeranno un fattore fondamentale per i sistemi di IA di prossima generazione, che costituisce un'infrastruttura indispensabile per l'elaborazione ad alte prestazioni e le applicazioni avanzate di IA.
NEW LIGHT OPTICS TECHNOLOGY LIMITED si sforzerà di cogliere ogni opportunità e di contribuire.