一点也不虞外。
过去一年半,从 ChatGPT 到 Sora 一次又一次刷新了人们对付人工智能的认知。而且从目前来看,Claude 3 的震荡发布,GPT-5 流出的信息,彷佛解释大措辞模型(以下简称「大模型」)的智力呈现没有丝毫放缓的迹象。

这让 GPU「采购战役」变得愈演愈烈,连带着台积电的 CoWos 以及 HBM 产能也成为了绝对意义的「抢手货」。但大模型在「争夺」的实在不但是 HBM。

随着手机、PC 等打算终端开始积极引入大模型,乃至涌现了一系列基于大模型打造的 AI 原生终端,消费电子产品对付 DRAM(内存)、NAND(闪存)的需求也在变多、变大。
从 GPT-3.5 到 Llama 3,大模型要连续带飞存储芯片
当地韶光 4 月 18 日,Meta 发布了最新的开源大模型 Llama 3,再次夺回了开源大模型的「王座」。但值得把稳的是,Llama 3 的强大很大程度上离不开 15 万亿 Token 的演习数据,这不仅是小公司难以企及的规模,乃至比谷歌之前开源的 Gemma 大模型:
还多出一倍不止。
图/ Meta
从 GPT-3.5 到 Llama 3,时至今日,大模型的智力呈现依然依托于 Scaling laws(OpenAI 提出)辅导下的大力失事业,对算力和数据有着近乎没有上限的需求。这直接孕育了海量的 GPU 需求,也带动了 HBM 的需求。
根据国外研究机构的拆解,英伟达力推的 H100 NVL 版本配备了 12 个 16GB HBM 堆栈,而单颗 16GB HBM 堆栈,本钱就高达 240 美元。也便是说,仅仅 HBM 的本钱就逼近 3000 美元,毫无疑问超过了制造和封装,是 H100 本钱中最贵的一项。
即便如此,SK 海力士、美光 2024 年的 HBM 产能,也早被英伟达、AMD、英特尔、谷歌、微软等半导体厂商预订一空。
英伟达 H100 GPU,图/英伟达
高昂的定价和供不应求的订单,也让 HBM 厂商赚得盆满锅满。4 月 25 日刚公布的财报显示,SK 海力士今年第一季度业务利润为 2.8860 万亿韩元(约合公民币 151.8 亿元),不仅扭亏为盈,而且比起已经很乐不雅观的市场预期:
还赶过 30%。
要知道,这还是产能远远无法知足需求的情形。
而另一方面,大模型预演习最主要的一步便是语料库的采集。如果企业须要利用私有数据重新演习模型,同样也要经由数据网络、洗濯等步骤。
不仅如此,涉及数据就不可避免要涉及「数据怎么存储、怎么管理、怎么担保数据安全,」遐想凌拓首席实行官陆大昕在年初的一次演讲中表示,「这些都是后续大模型培植中的刚需。」
遐想凌拓首席实行官陆大昕,图/遐想
以是不难想象,伴随大模型进一步从数据中央扩散到更多、更分散的做事器,以及大模型运用的扩展和遍及,须要更大的数据存储容量。这也就不奇怪,已经有大量厂商正在面向 AI 需求打造数据存储产品和解决方案。
海内有名存储厂商江波龙董事长蔡华波还在 2024 中国闪存市场峰会上表示:
江波龙要从存储模组厂向半导体品牌公司做转型,经营模式从原有的价差模式向做事模式转型。
AI 硬件元年,终端吞噬存储芯片
都说 2024 年是 AI 硬件元年,实在并不夸年夜。不但是很多人都听过的 AI 手机、AI PC,还有大量硬件产品,包括智能眼镜、电视乃至产品形态更新颖的 AI 原生终端,都在 2024 年集体亮相。
只管很多产品在拥抱 AI 的过程中含有不少「水分」,比如可能只是接入了类 ChatGPT 的天生式 AI 谈天机器人,或者只是引入云端大模型的能力。但从「AI 肃清」到「AI 通话/阅读择要」,我们也要承认,基于背后的大模型,天生式 AI 的确开始改变我们的数字体验。
从左到右依次为 vivo、OPPO、小米、华为,图/雷科技
同时,不管是手机还是 PC 厂商都认同端侧大模型的势在必行,只有结合端侧和云端大模型,打算终真个体验才能发生革命性的演化。但与此相对的是,端侧算力和存储配置也变得前所未有田主要。
君不见,江波龙上个月就宣告将与西部数据「加强互助关系,积极探索并共同支持下一代基于人工智能的移动终端存储和运用的市场机遇。」更详细地说,江波龙要与西部数据联手面向手机市场供应「领先的定制化嵌入式存储办理方案」——也便是闪存,对应得手机上便是存储空间。
不仅如此,从财报公布的数据来看,截止 3 月 31 日,江波龙的存货账面金额猛然上升至 76 亿元,同比增长了 28%。按照江波龙的说法,存货增长紧张是由于计策备货增加。但显然,更根本的缘故原由是江波龙看好大模型在手机和 PC 等紧张打算终端上的落地,一定须要更大的存储配置。
江波龙董事长蔡华波,图/中国闪存市场峰会
当然也不但是江波龙,前文提到的 SK 海力士以及三星都在向手机、PC 市场供应更大乃至更高带宽的内存,还操持参考 HBM,在 LPDDR 根本上引入新的堆叠和封装办法。
从数据中央到打算终端,这一轮席卷环球的 AI 浪潮不仅在助推存储芯片行业走出寒冬,也在将行业引向一个全新的周期。
写在末了
如果你相信大模型一定是未来,一定会走进千行百业,走进千家万户,那毫无疑问的是,存储芯片也一定是未来。
说到底,作为推动 AI 进化的三个核心要素之一,随着 AI 的逐步落地和遍及,数据一定须要更大、更快的内存和闪存,也须要更适宜 AI 时期的存储办理方案。
这是寻衅,也是机遇。
只管 SK 海力士、三星、美光三大存储芯片巨子在技能、成本、人才上的上风不言而喻,也险些垄断了 HBM 供应。但对付包括江波龙在内的国产存储厂商来说,面向 AI 需求的储存办理方案依然是一个全新的领域,不管在个人移动终端上,还是在企业级市场上。
同时,这里也孕育了全新的可能。
4月25日-5月4日,北京国际汽车展览会(北京车展)正在火热进行。本届车展以“新时期新汽车”为主题,是“汽车从电动化走向智能化”的风向标。
雷科技旗下“关注电动车,更懂智能化”的账号电车通已派出豪华宣布团,正在北京车展现场,进行一线专业宣布,欢迎关注“电车通”获取一手专业现场宣布。










