1/24/2024，光纖在線訊，據(jù)逍遙科技整理。在高性能計算領(lǐng)域，如 GPU 等核心芯片對數(shù)據(jù)的渴望日益增長，高帶寬內(nèi)存（HBM）技術(shù)的重要性不斷提升。隨著應(yīng)用程序越來越依賴于大量數(shù)據(jù)，提高 HBM 的速度成為了一個迫切的課題。本文綜述了三星、SK 海力士和美光等領(lǐng)先內(nèi)存制造商，如何通過光互連技術(shù)和直接邏輯集成來提升 HBM 的性能。文中還探討了這些方法可能帶來的利益與風險，尤其是非標準化解決方案可能引發(fā)的供應(yīng)商鎖定問題。同時，也對未來的 JEDEC HBM 標準，如 HBM4 和 HBM4e 的發(fā)展方向進行了討論。

     高帶寬內(nèi)存（HBM）使得 GPU 這類處理能力強大的芯片能夠訪問更大的外部內(nèi)存帶寬。隨著人工智能、機器學習以及高性能計算（HPC）等領(lǐng)域?qū)��?shù)據(jù)需求的不斷增長，急需通過提升 HBM 接口速度來縮短處理時間（Mellor，2023年）。本文回顧了主要內(nèi)存供應(yīng)商為提高 HBM 速度而采取的最新措施，包括光學和直接集成的創(chuàng)新手段，并討論了關(guān)于 HBM 技術(shù)的未來標準化工作。

     當前 HBM 現(xiàn)狀 HBM 技術(shù)依賴于堆疊內(nèi)存，這些內(nèi)存在邏輯上作為一個整體運行。目前，HBM3e 能提供每堆棧最高 24GB 的容量，速度可達 1.2TB/s，使用的是 1024 位的寬接口（Mellor，2023年）。HBM 堆棧通過一個中間連接器與主處理器相連。盡管已經(jīng)相當快速，行業(yè)內(nèi)還是在尋求進一步提升 HBM 性能，以便更快地處理數(shù)據(jù)。

三星的光互連創(chuàng)新 
     近期，三星提出了創(chuàng)新想法：在 HBM 堆棧和處理器封裝內(nèi)部使用光互連來提升傳輸速度，聲稱可達飛秒級延遲。圖 1 從概念上展示了這一光互連創(chuàng)新。三星認為，這種方法將大幅提高帶寬和功耗效率。但是，如何將這一創(chuàng)新落到實處，目前還存在一些不確定性（Mellor，2023年）。

   
圖 1. 三星在 2023 年 OCP 全球峰會上的展示。

直接集成
     除了光互連創(chuàng)新之外，制造商還在探索將 HBM 堆棧直接集成到處理器芯片上的可能性，這與內(nèi)存中處理（PIM）的理念類似。圖 2 展示了 SK 海力士對這種被稱為 “HBM4” 技術(shù)的構(gòu)想。這種緊密集成可能帶來更快的互聯(lián)速度，但如果缺乏行業(yè)標準，也可能面臨專有技術(shù)鎖定的風險（Mellor，2023年）。


圖 2. SK 海力士互連器（頂部）與組合的 HBM+GPU 芯片（底部）HBM 概念。

未來標準
     美光，作為另一家主要的內(nèi)存供應(yīng)商，預(yù)計基于 JEDEC 標準的 HBM4 將在 2026 年推出，每堆棧帶寬將超過 1.5TB/s，使用 2048 位總線，并在容量和功耗效率方面有所提升。此外，還有一個后續(xù)版本 "HBM4e" 正在規(guī)劃中。表 1 總結(jié)了各供應(yīng)商對這些未來規(guī)格的預(yù)期目標，盡管官方批準的具體參數(shù)還未確定（Mellor，2023年）。

表 1. HBM4和HBM4e用斜體顯示，因為它們還不是正式的JEDEC標準。
  

討論
     目前，HBM 的發(fā)展重點集中在光互連和集成創(chuàng)新上，這些創(chuàng)新有望大幅提升帶寬、容量和能效。然而，過于深入的集成可能會在缺乏開放標準的情況下導致供應(yīng)商鎖定。業(yè)界應(yīng)對專有技術(shù)偏離公認的接口標準（如 JEDEC）持謹慎態(tài)度。盡管存在挑戰(zhàn)，HBM4 和 HBM4e 為滿足未來加速內(nèi)存需求設(shè)定了令人期待的性能目標。標準機構(gòu)、GPU 設(shè)計者和內(nèi)存公司之間的持續(xù)合作，對于實現(xiàn)創(chuàng)新與互操作性的平衡非常重要。

關(guān)于逍遙科技：
深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導體芯片設(shè)計自動化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件，提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動特色工藝半導體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。