英特爾展示矽光子實力,首款OCI小晶片亮相:透過光學I/O連接實現更快更強的AI晶片

英特爾展示矽光子實力,首款OCI小晶片亮相:透過光學I/O連接實現更快更強的AI晶片

在2024年的光纖通訊會議(OFC)上,英特爾的內建光子解決方案(IPS)小組展示了業界最先進的、也是首次完全內建的光計算互連(OCI)晶片組,該晶片組與英特爾CPU共同封裝並運行即時資料。

英特爾展示矽光子實力,首款OCI小晶片亮相:透過光學I/O連接實現更快更強的AI晶片

當半導體技術不斷發展,想要提升能效就需要更多的先進技術,其中之一就是矽光 (Silicon Photonics)。這結合了兩個 20 世紀最重要的發明:矽積體電路和半導體雷射。與傳統的電子相比,矽光子能讓資料傳輸速率更快、距離更長,還能利用 Intel 的矽晶量產效率。集結積體光電的效能與可靠性,及晶片的可擴充性,實現高頻寬、低功耗的連線能力。

英特爾的OCI晶片組通過在資料中心和高性能計算 (HPC) 應用的新興AI基礎設施中實現共同封裝的光輸入/輸出 (I/O),代表了高頻寬互連的一次飛躍。英特爾稱,我們在融合光電科技到高速資料傳輸方面實現一個革命性的里程碑。

功能方面,這款首款OCI晶片支援64個獨立通道,每個通道能夠以32千兆位/秒 (Gbps)的速率傳輸資料,並在長達100米的光纖上高效傳輸資料,有望滿足AI基礎設施對更高頻寬、更低功耗和更長傳輸距離日益增長的需求。它增強了叢集中CPU與GPU之間的連接,並支援創新的計算架構,如一致性記憶體擴展和資源解耦。

新一代光學I/O技術革新,迎接日益增長的AI工作負載

隨著AI技術的飛速發展,自動駕駛、高級資料分析和虛擬助手等應用在全球範圍內日益普及,對計算資源的需求急劇增加。特別是大型語言模型如GPT,以及生成式AI技術的快速發展,極大地推動了AI技術的應用。然而,這些先進的AI模型需要處理和生成的資料量巨大,對計算資源和資料傳輸提出了極高的要求。

隨著機器學習模型的規模不斷擴大,它們在AI加速工作中的作用也變得越來越複雜,需要極高的計算能力和資料處理能力才能有效運行。這種對高性能計算平台的需求正在推動輸入/輸出(I/O)頻寬的指數級增長和資料傳輸距離的延伸。

為了應對這一挑戰,資料中心正在向更大的處理單元叢集,如CPU、GPU和IPU的使用,以及更高效的資源利用架構,如xPU解耦和記憶體池化方向發展。這些技術的實施將提高處理效率,降低系統延遲,並最佳化資源組態,從而支援更廣泛的AI計算和應用。

儘管傳統的電子I/O系統在傳輸大量資料時表現出高頻寬密度和低功耗的優點,但其最大的弱點是傳輸距離短,通常僅限於一米內。這嚴重限制了資料中心內部的裝置佈局,使得元件之間的連接受到嚴格的空間限制。

英特爾展示矽光子實力,首款OCI小晶片亮相:透過光學I/O連接實現更快更強的AI晶片

為了突破這一限制,資料中心和早期AI叢集開始採用可插拔光學模組技術,這種技術能夠提供比電子I/O更長的傳輸距離。然而,隨著AI應用對資源的不斷增加,光學模組在成本和能耗方面的壓力也隨之增大。

為了應對這些挑戰,新一代光學I/O技術應運而生。這種技術將光學I/O與處理器(如CPU、GPU或IPU等,統稱為xPU)共封裝,不僅大幅提高了頻寬,還最佳化了晶片內部的光和電訊號傳輸,顯著降低了能量消耗,還大幅減少了資料傳輸過程中的延遲,對於需要快速響應的AI應用來說至關重要。

更令人興奮的是,這項技術支援的傳輸距離遠超以往,為資料中心的設計提供了更大的靈活性,使得系統能夠適應更廣泛的擴展需求。光學I/O技術的推廣不僅解決了資料傳輸的痛點,也為AI和機器學習的未來發展鋪平了道路。

打個比方,傳統的電子I/O連接,類似於舊式馬車,在短距離傳輸中效率較高,但面對大量資料的長距離傳輸需求時,卻顯得力不從心。而英特爾的OCI晶片等光學I/O技術,如同現代的汽車和卡車,不僅能在更長的距離上傳輸更多的資料,而且保持資料的完整性,大大超越了傳統電子I/O的性能。

隨著AI和ML模型需求的不斷擴大,光學I/O憑藉其卓越的傳輸能力和高效能源利用,成為推動未來AI技術發展的關鍵力量。就像汽車和卡車滿足了現代社會對快速、大規模物流的需求一樣,光學I/O使得資料能夠更快、更高效地在更長的距離上傳輸,這對於擴展AI基礎設施至關重要。

英特爾在矽光子學領域研究已久

憑藉超過25年的深厚研究基礎,英特爾實驗室在內建光子學領域取得了開創性的成就。英特爾不僅是首家成功開發並大規模生產矽光子連接產品的企業,更是以其卓越的產品可靠性,贏得了全球主要雲服務提供商的信賴。

英特爾的核心競爭力在於其獨特的混合雷射器晶圓上技術和直接內建工藝,這些技術不僅提高了產品的可靠性,還降低了成本。這種獨特的方法使得英特爾能夠在保持高效率的同時,提供卓越的性能。到目前為止,英特爾的強大生產平台已經出貨超過800萬片積體電路晶片,這些晶片內建了超過3200萬個晶片級雷射器。其雷射器的故障率極低(故障率小於0.1),這一指標在業界廣泛認可,表明故障率極低。

這些晶片被封裝在可插拔的收發器模組中,並在大型資料中心網路中得到部署,服務於多家大型雲服務提供商,用於100Gbps、200Gbps和400Gbps的應用。目前,英特爾還在開發下一代200Gbps每通道的晶片,以支援即將到來的800Gbps和1.6Tbps的應用。

在製造工藝上,英特爾引入了全新的矽光子製造工藝節點,這一工藝不僅提升了裝置性能,還實現了更高的內建度和更佳的耦合效率,同時顯著降低了成本。英特爾在晶片雷射器和SOA性能、成本控制以及能效最佳化方面不斷取得突破,晶片面積減少了超過40%,能耗降低了超過15%,進一步鞏固了其在矽光子技術領域的領先地位。

英特爾目前的OCI晶片模組尚處於原型階段。展望未來,英特爾正在與特定客戶合作,將OCI與他們的系統級晶片(SoCs)一起封裝,開發一種創新的光學輸入/輸出解決方案。

 

 

cnBeta
作者

cnBeta.COM(被網友簡稱為CB、cβ),官方自我定位「中文業界資訊站」,是一個提供IT相關新聞資訊、技術文章和評論的中文網站。其主要特色為遊客的匿名評論及線上互動,形成獨特的社群文化。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則