亚洲国产午夜真人一级片中文字幕精品黄,精品久久久噜噜噜久久久,国产区综合精品国产www,www.国产精品.com,国产美女的第一次好痛在线看,最新国产乱人伦偷精品免费网站,日本欧美一区二区三区不卡视频,精品久久久无码人妻字幂,国产午夜精品理论片,国产午夜精品久久久久免费视

存儲：HBM 憑借高帶寬和低延遲推動AIGC計算
思瀚產(chǎn)業(yè)研究院    2024-11-16

HBM（高帶寬存儲器）是一種采用 3D 堆疊技術(shù)的DRAM，通過先進(jìn)的硅通孔（TSV）封裝方法，能夠?qū)崿F(xiàn)高容量、高帶寬、低延時和低功耗的特性。這種設(shè)計特別適用于高性能計算和圖形處理，尤其是在AIGC 計算中，HBM與GPU的結(jié)合極大提升了并行數(shù)據(jù)處理速度。

在 AIGC 計算中，GPU 需要處理大量并行數(shù)據(jù)，要求具備高算力和大帶寬。通過中介層與 HBM 的互聯(lián)封裝，HBM 的高帶寬特性為GPU 提供了充足的內(nèi)存帶寬，支持其高速數(shù)據(jù)處理需求，從而加速 AIGC 模型的訓(xùn)練和推理過程。

HBM 存儲技術(shù)自 2013 年 SK 海力士首次推出HBM1 以來，經(jīng)歷了多次重要的產(chǎn)品迭代，包括 HBM2、HBM2E、HBM3 和最新的HBM3E。每一代產(chǎn)品在容量、帶寬和功耗效率上都有顯著提升，其中 HBM3E 提供高達(dá)9.2Gbps 的I/O傳輸速度和超過 1280GB/s 的帶寬。展望未來，預(yù)計 HBM4 將在2026 年上市，將支持更廣泛的內(nèi)存層配置，以更好地滿足不同類型的應(yīng)用需求。

AIGC 的迅猛發(fā)展正在刺激數(shù)據(jù)中心對高速DRAM 內(nèi)存的需求持續(xù)增長。隨著超大規(guī)模企業(yè)不斷擴(kuò)展服務(wù)器容量以支持大語言模型的訓(xùn)練和推理任務(wù)，高速 DRAM 和 HBM 的需求也顯著上升。數(shù)據(jù)中心已成為DRAM 需求最大的細(xì)分市場，占據(jù)整體市場份額的 50%。預(yù)計隨著 HBM 和 CXL（Compute ExpressLink）等新技術(shù)的普及，數(shù)據(jù)中心 DRAM 市場的增速將超過整體DRAM 市場。

根據(jù)YoleGroup 的預(yù)測，DRAM 市場將從 2023 年的 520 億美元增長到2029 年的1340億美元，復(fù)合年均增長率為 17%，而數(shù)據(jù)中心 DRAM 在2023-2029 年間的復(fù)合年增長率將達(dá)到 25%。在全球 DRAM 市場中，三星、SK 海力士和美光占據(jù)了主導(dǎo)地位，三家公司合計市場份額高達(dá) 94%。其中，三星以 40%的市場份額繼續(xù)穩(wěn)居全球最大DRAM供應(yīng)商，SK 海力士和美光分別占有 29%和 25%的市場份額。

隨著 AIGC 算力需求的持續(xù)上升，全球 HBM 市場正經(jīng)歷快速增長。根據(jù)Yole Group 的分析，全球 HBM 市場預(yù)計將從2023 年的55 億美元增長至2029年的 377 億美元，復(fù)合年均增長率達(dá) 37.8%。HBM 市場增速將顯著超過整體DRAM 市場，HBM 在整體 DRAM 出貨量中的占比預(yù)計將從2023 年的2%增長到2029 年的 6%，營收占比將從 2023 年的 10.4%增長到2029 年的32.8%。

SK 海力士在 HBM 市場中占據(jù)領(lǐng)先地位。SK 海力士在HBM 的開發(fā)和商業(yè)化方面處于領(lǐng)先地位，是 HBM3 的主要供應(yīng)商，也是Nvidia H100 和H200的唯一供應(yīng)商。三星主要生產(chǎn) HBM2E，并計劃開始生產(chǎn)HBM3。美光則跳過HBM3，直接推出 HBM3E。根據(jù) TrendForce 的數(shù)據(jù)，2023 年SK 海力士、三星、美光在HBM 市場的份額分別為 55%、41%、9%。

更多行業(yè)研究分析請參考思瀚產(chǎn)業(yè)研究院官網(wǎng)，同時思瀚產(chǎn)業(yè)研究院亦提供行研報告、可研報告（立項審批備案、銀行貸款、投資決策、集團(tuán)上會）、產(chǎn)業(yè)規(guī)劃、園區(qū)規(guī)劃、商業(yè)計劃書（股權(quán)融資、招商合資、內(nèi)部決策）、專項調(diào)研、建筑設(shè)計、境外投資報告等相關(guān)咨詢服務(wù)方案。