芯东西（公众号：aichip001）

作者 | ZeR0

编辑 | 漠影

(资料图)

韩国存储芯片巨头们正在打一场翻身仗。

尽管从最新财报来看，存储芯片复苏未见好转，供应过剩导致营业利润大幅下降，但这些存储芯片巨头们的股价均在上周上涨。力挽狂澜的核心功臣，便是逐渐成为数据中心 AI 训练必备组件的 AI 相关内存芯片——高带宽内存（HBM）。

因生成式 AI 开发和商业化竞争加剧，第二季度对 AI 相关内存的需求大幅增加。HBM 的受关注程度，在上周 SK 海力士和三星发布最新财报后举行的电话会议期间可见一斑，分析师们就 HBM 相关进展和后续规划密集发问。

自去年英伟达发布世界首款采用 HBM3 的 GPU H100 以来，HBM3 及更先进 HBM 芯片的热度一直居高不下。据报道，英伟达和 AMD 要求 SK 海力士提供尚未量产的下一代 HBM3E 芯片的样品。英伟达已要求 SK 海力士尽快供应 HBM3E，并愿意支付 " 溢价 "。

虽说今年缩减开支是重头戏，但存储芯片巨头们在 HBM 方向的投资仍相当舍得——合计掌控着全球 90%HBM 芯片市场的两家韩国大厂 SK 海力士和三星均表态，计划明年将 HBM 芯片产量提高一倍，并为了更好应对 HBM 不断增长的需求，而减少其他类别存储芯片的投资。

一、英伟达 AMD 微软亚马逊排队，坐等用上 HBM3E

高带宽内存（HBM）属于 DRAM 的一类分支，使用堆叠技术来提高图形处理器（GPU）等计算芯片的带宽和性能，相比传统 DRAM 芯片产品具有尺寸更小、功耗更低、带宽更高、处理数据速度更快等优势。

HBM 最初用于高端游戏显卡，目前在全球动态随机存取存储器（DRAM）市场中占有的市场份额较小，但潜力非常可观。随着云计算及生成式 AI 服务的发展，全球大型科技公司将越来越多地使用 HBM，来快速处理快速增长的数据。

据芯片行业咨询公司 SemiAnalysis 披露，HBM 的价格大约是标准 DRAM 芯片的 5 倍，利润丰厚，预计到 HBM 占全球内存收入的比例将从目前的不到 5% 增长到 2026 年的 20% 以上。

自 2013 年开发全球首款 HBM 芯片以来，全球第二大存储芯片巨头 SK 海力士一直处于 HBM 领先地位。这也是 SK 海力士首次在内存技术竞赛中领先于三星。随后两家韩企进入激烈的 HBM 抢位赛，争相开始量产 HBM2、HBM2E 等芯片。

2022 年 6 月，SK 海力士宣布开始量产业界首款 HBM3 内存，与英伟达 H100 GPU 配合使用，预计将于 2022 年第三季度发货。该内存将为 H100 提供高达 819GB/s 的内存带宽。

目前 SK 海力士是目前唯一一家批量出货 HBM3 的供应商，拥有超过 95% 的市场份额。它正在为 AMD MI300X 和英伟达 H100 生产数据速率为 5.6GT/s 的 12 层 24GB HBM3。

今年 5 月 30 日，SK 海力士乘胜追击推出最新的HBM3E，每个堆栈的带宽从 HBM3 的 819GB/s 增加到 1TB/s，将于明年上半年投入生产，据说英伟达、AMD、微软、亚马逊等芯片大厂正排队抢货。这驱动 HBM 价格进一步大幅上涨。

据行研机构 TrendForce 的数据，SK 海力士 2022 年在全球 HBM 市场占有 50% 的份额，三星以 40% 的份额紧随其后，美国存储芯片巨头对手美光以 10% 的份额排名第三。

SK 海力士披露，生成式 AI 市场的扩张已迅速推高对 AI 服务器内存的需求。在 AI 相关需求激增的驱动下，上周三，SK 海力士报告其今年第二季度同比由盈转亏，营业亏损为 2.88 万亿韩元，其股价上周却上涨了 12%。

次日，三星宣布第二季度营业利润为 6685 亿韩元，同比下降 95%。受益于最新一代 HBM3 芯片在内的高端内存技术订单激增，三星股价周四上涨了 2.4%，然后又有所回落。

TrendForce 预测，2023 年全球 HBM 芯片需求将增长 60%，达到 2.9 亿 GB，明年将再增长 30%，2025 年整体市场有望达 20 亿美元以上。预计明年 SK 海力士将占据 HBM 市场 53% 的份额，其次是三星（38%）和美光（9%）。

二、AI 服务器使用的内存，比传统服务器至少多出 1~8 倍

在财报电话会议上，SK 海力士首席财务官 Kim Woohyun 说："与传统服务器相比，AI 服务器使用的内存至少多出 1~8 倍，以实现更快的计算处理，并采用 HBM 等高性能内存产品，这不仅会推动需求，而且对盈利能力产生了积极影响。"

他谈道，从今年年初开始，智能手机、个人电脑和服务器的需求一直疲软。但从第二季度开始，AI 服务器的需求急剧上升，抵消了其他产品需求的部分损失。自第二季度以来，生成式 AI 引发的对高端服务器的需求迅速增加。相应地，高密度 DDR5 和 HBM 产品的需求也在快速增长。

三星内存业务执行副总裁 Jaejune Kim 在三星财报电话会议上谈到第二季度在服务器方面的内存需求，由于对生成式 AI 的强劲需求，数据中心领域的投资在有限的资本支出中集中在 AI 服务器上，对通用服务器和存储的需求相对有限。

今年随着企业投资水平的降低，存储芯片客户将重点放在昂贵的 AI 服务器上的投资，对传统服务器的投资可能会暂时下降。不过，SK 海力士分析预测，通用服务器仍将广泛用于 AI 服务的开发、部署和运营，因此从长远来看也将刺激通用服务器的需求增长。

据 Kim Woohyun 披露，SK 海力士的图形 DRAM 销售额（包括 HBM 产品）此前仅占 DRAM 销售额的个位数百分比。但自从去年第四季度达到 DRAM 销售额的 10% 以来，这一比例迅速增长到第二季度超过 20%。SK 海力士用于 AI 服务器的 HBM 和高密度 DDR5 模块的销量大幅增长。该公司预计今年 HBM 的销量预计将比去年增长两倍以上，并预计明年将进一步增长。

三、今明 HBM 需求预计陡峭增涨，两家大厂披露 HBM 最新路线图

业内专家表示，由于调整产能需要时间，未来两年 HBM 供应预计仍将紧张，而快速增加 HBM 产量也很困难，因为它需要专门的生产线。

SK 海力士和三星给出了相近的产业趋势解读：内存需求一直在从去年创纪录的低增长水平中复苏，当前复苏尚不足以使全行业库存水平恢复正常，上半年库存水平仍较高，但库存已经见顶，并预测随着减产效果进一步显现，下半年存储芯片需求将较上半年有所改善。

为了进一步加速库存正常化，两家存储芯片大厂都在选择性地对 DRAM 和 NAND 的某些产品进行额外的生产调整，下半年重点抓盈利能力，专注于高附加值和高密度产品来优化其产品组合，特别是加强销售组合中 HBM、DDR5 等高价值前沿产品的份额的增长，减少库存水平较高、盈利能力不及 DRAM 的 NAND 的产量。

SK 海力士相信第三季度 AI 服务器需求将持续增涨，特别是高密度 DDR 模块和 HBM，这两款产品的收入有望在下半年比上半年增速更高，HBM 的需求将在明年保持相当健康的增长。

近期，特别是随着超大规模企业对生成式 AI 服务的竞争加剧，三星收到了来自此类客户的大量需求，预计今年和明年 HBM 的需求可能会出现相当陡峭的增长。

目前 SK 海力士的首要任务是投资增加 HBM 的大规模生产。该公司刚刚对今年年初制定的有关技术产能组合的规划进行了调整，以应对对高密度 DDR5 和 HBM 不断增长的需求。

对于 HBM 路线图来说，重要的是与 GPU 的发布或领先加速器市场的公司的时间表保持一致。SK 海力士预计将在 2026 年某个时候转向 HBM Gen 4，并正为此做准备。

根据其路线图，明年下半年将是 HBM3E 量产期，也是 HBM3E 的供应扩大期。今年 SK 海力士的重点是增加 HBM 量产所需的 1Z 纳米的比例，还准备增加 1B 纳米产能和 TSV 产能，为明年上半年开始供货的 HBM3E 做准备。

为了与市场增长预期保持一致，三星一直在扩展其 HBM 业务，产品方面拥有向主要客户独家供应 HBM2 的记录，后续还就 HBM2E 开展业务，计划 2023 年下半年开始大规模生产 HBM3。三星 HBM3 正在接受具有行业顶级性能和密度或容量的客户资格认证，已开始向主要的 AI SoC 公司和云计算公司发货 8 层 16GB 和 12 层 24GB 产品。具有更高性能和容量的三星下一代 HBM3P 芯片计划于今年晚些时候发布。

三星还一直投资 HBM 生产能力，基于此已经预订了大约 10 亿或十亿中值 Gb 级的客户需求，大约是去年的两倍，并正在通过提高生产力来进一步提高供应能力，到 2024 年计划将 HBM 产能增加至少是 2023 年水平的两倍。另据此前报道，三星拟投资 1 万亿韩元扩产 HBM。

对于三星来说，它虽然在 HBM 竞争的反应比 SK 海力士慢半拍，但考虑到通常 AI 芯片与 HBM 存储器一起集成到单个封装中，三星拥有一个其他芯片企业所不具备的优势——兼具先进 GAA 工艺技术、HBM 技术和先进封装技术。

如果未来三星能够推出最大化发挥这三类关键技术协同效应的解决方案，这有望成为未来三星在 AI 算力市场竞争中的关键壁垒。

结语：存储芯片巨头打响 HBM 争霸赛

随着云计算和生成式 AI 服务越来越受欢迎，对 HBM 等高性能内存芯片的需求与日俱增。在 HBM 价格不断上涨的情况下，英伟达等芯片巨头仍在预订更多 HBM 产能来满足其 GPU 需求，这导致 HBM3 芯片的供给更加紧俏。

在今年资本支出大幅下降的情况下，在 HBM 市场领先的 SK 海力士正通过提高生产力、加快设备交付时间和削减其他领域的投资等努力，确保 HBM3 的产能和投资。稳居全球存储芯片第一的三星，自然不甘在 HBM 这一极具前景的细分市场屈居于 SK 海力士身后，亦加大马力争取新订单并专注于 HBM 等高附加值产品的销售。

全球排名第三的美国存储芯片巨头美光科技也在上周面向 AI 客户发布了最新 DRAM 四年路线图，包括用于 AI 和高性能计算应用的 HBMNext。到 2024 年，美光科技 HBM3E 预计将在第三季度 / 第四季度开始出货。

存储芯片巨头们正在严阵以待，通过加大在先进技术突破和扩大产能方面的投资，为持续到来的 HBM 等支持大规模数据处理的高性能内存产品的需求激增做好准备。SK 海力士能否在 HBM 技术和市场保持领先身位、长期掌握议价权，也是业界强烈关注的焦点。