新物网

当前位置:首页 > 科技

科技

HBM“风起云涌”,算力突破

时间:2024-01-11 19:35:25
这也恰恰是AI算力所需要的。”当然,算力作为人工智能中关键一环,人工智能芯片供应商扮演着重要角色。毋庸置疑的是,这场AI竞争需要极高的算力需求,但因产能受限,供不应求成为现状,进而使HBM价格高增,HBM市场规模高速增长。这一数据也凸显出,SK海力士和三星的势均力敌。

HBM“风起云涌”,算力突破

得益于AI算力的需求,HBM开始流行。

近日,据Korea Biz报道,已向SK海力士和美光支付了700亿至1万亿韩元的预付款。 虽然没有具体说明预付款项,但业界普遍认为是为了保证今年即将推出的GPU产品所需的HBM3E供应。

同样在需求激增的市场环境下,三大存储巨头也在竞相推动HBM生产。 近期,三星和SK海力士计划将HBM产量提高至2.5倍,美光今年将推出8层堆叠AI专用HBM3E内存。 对于HBM4,这3家公司也是各尽其责,相继确认了开发和正式上线时间。

预计2024年全球HBM钻头供应量预计将增长105%; 预计2024年HBM市场规模也将达到89亿美元,同比增长127%; 预计到2026年市场规模将达到127.4亿美元,复合年增长率约为37%。

01.谁在推动HBM市场?

HBM(High、High )是一种基于3D堆叠技术的高性能DRAM。 一般来说,就是将很多DDR芯片堆叠在一起,然后与GPU封装在一起。 正是基于互连和TSV工艺堆叠技术的近内存计算的实现,让HBM突破了内存带宽和功耗瓶颈,成为AI训练硬件的首选。

事实上,HBM 已使用多年。 自2014年发布首款通硅孔HBM产品以来,HBM技术已发展至第五代。 HBM3E是HBM3的扩展版本,依此类推,HBM4将是第六代产品。 。 从HBM内存的演进来看,最新的HBM3的带宽、堆叠高度、容量、I/O速率等较第一代提升了很多倍。

图片来源:

这正是AI算力所需要的。

根据2012年的数据,自2012年以来,最大的AI训练所使用的计算量以每年10倍的速度增长。充分体现了AI训练数据集的增长。 2022 年 11 月发布的 GPT-3 使用了 1750 亿个参数构建,去年 3 月发布的 GPT-4 使用了超过 1.5 万亿个参数。

面对这一波AI浪潮,创始人兼CEO黄仁勋曾表示:“大型语言模型初创公司、消费互联网公司、全球云服务商已经率先采取行动,下一波浪潮已经蓄势待发。” 当然,算力是人工智能的关键部分,人工智能芯片供应商发挥着重要作用。

今年的高端AI阵容采用了HBM,包括A100/A800和H100/H800等型号。 此外,还进一步完善了产品组合,发布了搭载HBM3E显存和GH200超级芯片的H200 GPU。 相关系统预计将于今年第二季度推出。 据了解,以GH200超级芯片为例,HBM3E内存比目前的HBM3快50%,总共可提供10TB/s的带宽。 这使得GH200 Grace平台能够运行比之前版本大3.5倍的模型,同时内存带宽提高3倍,提高了性能。

“与神较量”的AMD在去年12月的“AI”活动上正式发布了AI旗舰GPU加速器AMD,甚至声称性能比的H100高出60%。 据了解,其采用HBM3内存,最大容量为192GB,比上一代(128GB)提升50%。 内存将提供高达 5.3TB/s 的带宽和 896 GB/s 的带宽。

同样想在AI这块蛋糕上分一杯羹的还有英特尔。 据外媒报道,英特尔计划在2024年发布Gaudi 3,配备高达128GB的HBM3E RAM,这将大幅提升AI学习和训练性能。

谁能成为替代者,还需要市场的反馈。

毫无疑问,这场AI竞赛对算力要求极高。 但由于产能有限,供大于求,进而导致HBM价格上涨,HBM市场规模快速增长。

资料来源:方正证券

方正证券报道称,从成本角度来看,HBM的平均售价至少是DRAM的三倍。 但由于前期的拉动以及产能有限,HBM的价格一直在上涨。 与最高性能的DRAM相比,HBM3的价格有所上涨。 五次。

02.HBM市场分为三部分

AMD和Intel相互竞争的同时,存储厂商也没有闲着,产量/扩产成为了主旋律。

从2013年宣布成功开发HBM1,到2019年开发出全球最快的高带宽内存HBM2E,再到2021年10月开发出全球首款HBM3 DRAM,再到去年开发出全球最高规格的HBM3E,SK海力士一直是HBM 行业的领导者。

值得注意的是,SK海力士的DRAM在2023年第一季度由盈转亏,仅两个季度后就恢复盈利。

SK海力士解释称:“由于市场对高性能半导体存储器产品的需求增加,特别是用于AI的代表性存​​储器HBM3、大容量DDR5 DRAM和高性能存储器,公司业绩在度过第一季度低点后持续改善。移动DRAM等主要产品销售势头良好,与上季度相比,营业收入增长24%,营业亏损下降38%。 SK海力士表示,将采用以第四代10纳米级(1a)和第五代10纳米级(1b)DRAM为中心的生产线转换,同时扩大对HBM TSV1技术的投资。

资料来源:SK海力士财报

据悉,SK海力士决定在2024年预留约10万亿韩元(约合76亿美元)的设施资本支出,重点用于扩大高附加值DRAM芯片的设施,包括HBM3、DDR5,以及升级HBM的TSV先进封装技术分为两个方面。 SK海力士首席执行官Jeong-ho Park透露,预计到2030年该公司HBM出货量将达到每年1亿颗。

此外,在SK海力士年度高层重组中,新成立的AI基础设施部门将整合分散在公司内部的高带宽内存(HBM)能力。 该部门还将主导新一代HBM芯片等人工智能技术的开发,并寻找和开发新市场。 不难看出,SK海力士对于HBM寄予厚望。

以报告统计为参考,2022年SK海力士将占HBM全球市场规模的50%,其次是三星,占40%。

两者都受益于存储市场的复苏。 从三星电子去年三季度财报数据来看,已有复苏迹象。 数据显示,三星电子第三季度存储业务增长17%,达到10.53万亿韩元。 存储业务所在的DS部门运营亏损为3.75万亿韩元,但这比上一季度4.36万亿韩元的运营亏损有所减少。

资料来源:三星财报

面对存储市场未来增长的预期,三星电子收购了三星显示器( )天安工厂的部分建筑和设备,用于HBM生产。 三星电子计划在天安工厂建设一条新的封装线,用于批量生产HBM,预计投资7000亿至1万亿韩元。 与此同时,三星正在投资量产8层和12层HBM3,并已开始供应8层HBM3E样品。

据悉,的HBM此前一直由SK海力士独家供应。 由于需求极其巨大,据称三星已经通过了质量评估,很快就会加入供应商队列。 还有消息称,三星电子计划从今年1月开始向供应HBM3。

关于2023年HBM市场份额,预计SK海力士和三星的HBM份额将占约46-49%。 这一数据也凸显出SK海力士与三星势均力敌。

如果将HBM市场分为三个部分,最后一个公司是()。 虽然美光2022年的市场份额只有10%,但它也不甘落后。 美光科技台中四厂专门生产HBM,计划今年量产第五代HBM3E产品。

就供应链而言,业界预测,这三家公司将为即将推出的H200和B100所需的HBM3E供应展开激烈竞争。

概括

智能语音、智能驾驶等智能应用逐渐渗透到我们的生活中,给存储芯片带来巨大的需求。 去年下半年存储芯片市场价格的反弹信号让业内人士看到了“曙光”。

从存储产业链来看,SK海力士、三星等主要厂商均采用IDM模式来处理芯片的设计、制造、封装和测试。 在国内市场,存储产业链还比较边缘化,主要集中在HBM的上游设备和材料供应环节。 不过,国内相关HBM概念股也受益。 据悉,相关厂商也在积极布局高端存储产品,以适应市场需求和技术演进。