首页 » 智能 » 这颗博通芯片涨到14万_芯片_互联

这颗博通芯片涨到14万_芯片_互联

雨夜梧桐 2024-12-20 09:10:05 0

扫一扫用手机浏览

文章目录 [+]

“外洋找了一千片,还没凑齐,太难了。
”“我们找供应商采购AI做事器,就由于主板缺了博通的PCle Switch 4.0芯片,没法安排出货,现在他们正在到处找。

以博通SS26为代表的PCle Switch芯片,最近需求非常多,不仅现货少,报价还从5500美元飙到20000美元!
也难怪AI做事器会涨价,一入AI深似海,原来不止是GPU价格在涨……

这颗博通芯片涨到14万_芯片_互联 这颗博通芯片涨到14万_芯片_互联 智能

阅读本文,你将理解:

这颗博通芯片涨到14万_芯片_互联 这颗博通芯片涨到14万_芯片_互联 智能
(图片来自网络侵删)

1、博通SS26,为什么这么抢手?

2、为什么缺?有替代吗?

3、AI做事器还带动哪些芯片增长?

01博通SS26价格涨至2万美元

AI干系GPU和做事器缺货潮还在持续发酵,英伟达、AMD等GPU大厂持续加单,而大模型下AI做事器集浩瀚硬件与零部件于一身,GPU这头的短缺还在补充,另一头又开始短缺,你永久不知道下一个缺的又是什么部件。

今年6月初开始,博通的PCle Switch在市场上就有了缺货迹象。

干系型号包括博通SS26、SS24、SS23打头的芯片,询价热度较高,市场上找货需求非常多,如SS26-0B00-02、SS24-0B00-02、SS23-0B00-02,个中SS26规格高,最为缺货,规格低一些的SS24、SS23虽然没那么缺,也有不少人在找货。

关于高真个SS26-0B00-02市场价格,业内人士见告我们,目前其喷鼻香港原装报价是5500 USD/ 片(26片起购),到了深圳现货市场,报价高达1.8万-2万 USD/片(含税),还不担保原装。

芯世相不雅观察到,某些型号带目标价格也不一定能挖到现货。
比如SS23-0B00-02,有终端在海内外到处找货,接管5000元单价,急需现货。

以上芯片型号,都属于博通PEX89000 PCIe Gen 5.0系列交流机,目前是其针对数据中央和云平台的PCI快速交流机中的最新系列产品,运用于 ML/AI 和做事器/存储运用的可组合超大规模打算系统。

规格最高的SS26-0B00-00具有144个PCIe Gen 5.0通道,可实现高达9216 Tb/s(1152 GB/s)的原始带宽。

因而博通的PEX89000系列交流机,可以说是为前辈打算而生的AI芯片了。

博通PEX89000 PCIe Gen 5.0系列交流机型号,来源:broadcom.com

PCle(PCI-Express,peripheral component interconnect express),即外围组件快速互连,是一种高带宽扩展总线。
大略来说,总线便是电脑内部进行交互的公用通道,可以理解为各种交通道路,PCle便是个中的一种。

如果大家有自己装机的经历,就会在主板上看到水平的PCle插槽。

PCle常日用于连接显卡、固态硬盘以及采集卡和无线网卡等外设,也常用于做事器平台,也越来越多地被用作存储和GPU互连办理方案。

来源:intel.cn

主板上的PCle通道分为x1、x2、x4、x8 和x16几种配置,通道数量越多意味着带宽越高,插槽也就更长。
我们组装电脑时,GPU就常日安在x16插槽中。

PCle既可以作为接口,又可以作为通道。
当它是接口的时候,可以插带PCle接口的任何外设:显卡、无线网卡、USB接口、固态硬盘、声卡等等,这个插槽里面,就有我们的PCle Switch芯片。

PCIe Switch,即 PCIe 开关或 PCIe 交流机,紧张浸染是实现 PCIe 设备互联,像做事器要实现CPU、GPU等组件互联,就离不开它。

有了PCle Switch,PCle从端对真个连接,变成多条总线连接,有效拓展了链路,形成一个高速的PCIe互联网络,从而实现多设备通信。

PCle Switch的高可拓展性、低功耗、低延迟、高可靠性、高灵巧性等上风,使之广泛运用于机器学习、人工智能、超领悟支配和存储系统中。

PCIe Switch连接多条PCIe总线,来源:PCI-SIG官网,中金公司研究部

打算机内部包含PCle等各种总线协议,让我们拆开一台AI做事器内部看看。

以 NVIDIA HGX H100 8-GPU为例,8 块 H100 GPU在全新的 FP8 精度下 AI 性能比上一代高 6 倍,可供应 900GB/s 的带宽,该做事器内部包含NVLink、PCIe和QPI等主板总线。

NVLink方面,8张 GPU(H100)之间互联紧张通过4个第三代NV Switch 芯片来实现。
每个H100 GPU共通过18个NVLink 4.0(5+4+4+5)连接到4个NVSwitch芯片。
每个NVSwitch相称于一个完备无拥塞的交流机,与8张H100 GPU卡实现完备连接。

NVLink是英伟达基于PCle Gen4研发的新技能,是点对点的高速互联技能,支持多达 16 个 GPU 或 CPU 的连接,可实现大规模的并行打算和深度学习演习。

英伟达A100、H100等GPU可以分PCle和NVLink两种版本,GPU互联时用的是不同通道。
PCle版本的GPU互联便是通过PCIe通道完成的,借助PCIe switch,系统可以实现CPU-GPU,GPU-GPU的连接。

多个GPU之间连接,PCIe仅64GB/S,4个以上的GPU互联就较为吃力了。
随着AI和高性能打算需求不断增长,须要更大的互联带宽,NVLink的带宽是双向带宽,如NVLink 3.0的带宽可以达到7200 Gbit/s,即900 GB/s,明显优于PCIe,而且在每GPU连接数量上限也高达18张,GPU的性能就可以发挥到最大化,这也便是为啥黄老板说买得越多省越多。

PCle方面,GPU与CPU之间通过PCIe 5.0总线实现互联。
图中蓝色方块为 IP 网卡(CX7),既是网卡又能发挥PCIe Switch(5.0)扩展功能,成为 CPU 与H100(GPU)之间互联的桥梁。
CPU之间则仍利用QPI总线进行通信。

可以看出,一台AI做事器要实现GPU-CPU互联,乃至是GPU之间的互联,都离不开PCIe Switch芯片。
来自博通SS26等芯片的需求普遍集中在做事器终端,它们也正是用于AI做事器的PCle Switch芯片。

“AI做事器要PCle 4.0、5.0及以上版本,做这类产品的厂商少,价格很贵。
”一位做事器专业人士见告我们。

02为什么缺,有替代吗?

伴随着AI 做事器、GPU等需求的增加,作为连接部件的PCle Switch需求也起来了。

目前用于AI做事器的4.0、5.0版本属于PCle Switch中的前辈版本。
专业人士见告我们,PCle Switch要看其支持的Lanes和Ports,参数越高,价格越贵。

PCIe最早由Intel于2001年提出,2003年正式推出PCIe 1.0版本,到2022年已迭代至6.0。
根据PCI-SIG官网,伴随人工智能、自动驾驶、AR/VR等具有高运算哀求的运用快速发展,处理器I/O带宽每三年实现翻番,也匆匆使PCIe基本上按照3年一代的速率更新演进。

PCle基本上均匀每3年更新一代,其单通道速率都在翻倍增长,总带宽也在提高。
2022年PCI-SIG 正式发布PCIe 6.0 规范,这是PCIe问世以来变革最大的一代,每通道数据传输速率从PCIe 5.0的32GT/s翻番至64GT/s,除了带宽和效率的提升,还具有更低的延迟。
2022年6月,PCI-SIG同盟宣告PCIe 7.0版规范,单条通道(x1)单向可实现128GT/s传输速率,操持于2025年推出终极版本。

别看PCIe 7.0版规范都出来了,博通的PCle Switch 5.0最近也被大家到处扫货,但业内人士见告我们,市场上对PCIe 5.0的需求实际上还没起来,“其一是目前大规模出货的CPU基本是PCIe 4.0,其二是英伟达A100/A800和国产GPU、NPU等也都是PCIe 4.0。

目前用量大的仍是高端PCIe 4.0,且缺货比较严重,在现货市场,原来单价2000-3000 RMB现在涨到大几千,乃至1万元,供货周期变长很多。
而低端4.0产品需求越来越少,普通做事器为实现更大灵巧度也往中高端走,供货渠道不多,供货周期也变长了,但价格只要小几千元。

因此博通PCle Switch 5.0这类芯片的起量还没那么快,“估量海内要在2024年下半年起量,到时候CPU才基本升级到PCIe 5.0。
其余,英伟达H800也支持5.0版本,一些加速卡该当会加入到5.0生态。

那么一台AI做事器要用多少PCle Switch芯片,用量有多大?

我们从前文对AI做事器的内部拆解可以看出,CPU和GPU之间互联的需求量不多,紧张的用量在GPU之间的互联。

如果你用的是A100 80G PCIE的8卡AI做事器,这里面8张A100互联可能就要用到大量的PCle Switch,而NVLink版本的带宽升级更大,GPU之间不用PCle Switch。

不过,NVLink仅用于GPU之间,终极传输结果给GPU还是走PCle,“目前做事器都还是X86架构,以是基本都是PCle的IP,Intel本身并未支持NVLink。
”CPU与GPU互联离不开PCle Switch。

带宽的高低,也是决定PCle Switch用量的主要成分,“还要看主带宽是多少,比如它里面做了一个PCIe 5.0,64x,也便是说它可以同时产生64路PCle 5.0的x1(带宽),那需求量就极大了。

环球PCle Switch三大供应商,博通、微芯、祥硕科技三家,共霸占环球约58%的份额。
据博通官网先容,博通是PCI Express交流领域的领导者,出货量超过10 亿个,公司正通过行业领先的交流机系列以及新的重定时器办理方案推动数据中央连接的发展。

如果要更换这颗博通芯片,目前可替代的微芯也面临缺货,而国产即便有替代,国外主板厂一样平常也不采取。
据悉,美国一家新公司xconn-technology刚推出样品,明年这时候就有对应产品上市。

随着PCIe 在做事器中运用越来越广泛,PCIe Switch 的市场需求也被带动起来。
根据QYResearch的统计及预测,2021年环球 PCIe 芯片市场发卖额达到了 7.9 亿美元,估量2028年将达到 18 亿美元,年复合增长率(CAGR)为 11.9%。

我们知道,除了苹果,英伟达、博通和AMD最近乘着AI热潮都在台积电积极投片生产。

这波博通PCIe Switch热,与英伟达用于AI做事器的GPU缺货逻辑基本同等,那便是尚未实现大规模出货,近期才追加扩产,一段韶光内面临供应不敷。

博通也是受益于AI时期来临的芯片大厂之一,除了与苹果持续互助外,博通还陆续得到了谷歌、Meta 等大厂的高等 ASIC 芯片订单。
博通作为通信巨子,这些订单估计包括了PCIe Switch在内的不少通信干系AI芯片。

博通FY23Q2财报显示,博通目前AI营收占半导体营收约15%,估量FY24提升至25%;与其他芯片厂商比较,博通在2-4月的单季营收同比增长了 8%,芯片业务表现超出市场预期。

博通还表示,AI干系部分产品从生产到交付须要超过6个月。
博通CEO认为,未来传统打算与AI打算会齐头并进,AI增长更快,传统打算不会消亡,未来增长一半来自传统业务,一半来自AI。

03结 语

据宣布,AI做事器将大幅推升做事器均匀出货单价(ASP)由8500至9000美元上涨到1万美元以上,AI做事器紧张集中在今年第四季大量出货。

AI演习的弘大数据,须要在各芯片之间高速无拥塞互联。
英伟达自己的NVLink、NVSwitch市场规模有限,而传统CPU生态中的PCIe接口芯片及其他高速互联芯片市场相对开放,PCIe Switch作为数据中央低功耗、高性能办理方案的核心一环,有望迎来高增长。
根据Transparency市场调研机构数据,2019-2027年CAGR约15%,2027年环球PCIe Switch市场规模或将达到92亿美元。

除了PCle Switch,AI做事器需求带动做事器家当链上各环节代价增长,业内人士测算,相较普通双路做事器,AI做事器核心器件单机代价量提升倍数由高到低依次为GPU(24x)、DRAM(5.3x)、板内互联接口芯片(3.3x)、电源管理(3x)、散热(3x)、PCB(2.4x)、网卡(2.2x)和SSD(2x)。

普通和AI做事器代价量拆解及比拟、AI做事器不同出货量假设下各环节的市场规模测算,来源:IDC,英伟达,中金公司研究部

AI需求强劲,但须要看清的是,AI不敷以撑起全体半导体行业的增长,近期晶圆代工厂们贬价、热停机动作亮起警示灯,目前半导体行业仍处于消费电子需求低迷阴影之下,复苏缓慢。

以博通为代表的高端AI芯片市场,同样是个玩家有限的小池子,它的稀缺与涨价反响一段韶光内高端AI芯片供不应求,对付芯片市场多数从业者来说,行情尚在缓慢复苏,可遇而不可求,唯有连续积极开拓新产品、新技能、新客户,找到新的增长点,才因此不变应万变的关键所在。

参考资料:

[1]什么是 PCIe 4.0 和 5.0?,intel.cn

[2]AI 做事器元年,接口芯片核心受益,民生证券

[3]AI浪潮之巅系列:大模型推动大算力,通信传输再升级,中金点睛

感谢国讯芯微创始人方婷婷对本文供应专业辅导。
国讯芯微科技成立于2017年,中国卡脖子技能2项关键技能海内领导者。
聚焦智能制造核心掌握系统研发及发卖,用于工业各种实时掌握等产品,目前紧张做事类型机器人、数控系统、半导体、自动化等,是目前海内唯一同时具备国产实时操作系统及软PLC的全自主技能企业。

标签:

相关文章

IT佣兵工会,数字化时代的自由职业者联盟

随着互联网的普及和全球化的推进,IT行业正经历着前所未有的变革。在这个变革的大背景下,IT佣兵工会应运而生,成为数字化时代自由职业...

智能 2024-12-28 阅读0 评论0

IT全国大赛,创新科技人才的摇篮

随着信息技术的飞速发展,我国IT行业迎来了前所未有的机遇。在这个背景下,IT全国大赛应运而生,成为了我国IT领域最具影响力的赛事之...

智能 2024-12-28 阅读0 评论0

IT创客协会,培育未来创新人才的摇篮

随着科技的飞速发展,创新已成为推动社会进步的重要动力。在这个变革的时代,培养具备创新精神和实践能力的人才显得尤为重要。在我国,IT...

智能 2024-12-28 阅读0 评论0