编辑丨苏建勋
2023年以来,AI芯片是AMD虎视眈眈的领域。在今年年初CES上发布过 MI300系列之后,美国韶光12月6日,AMD在其举办的Advancing AI 活动上,又发布了这一系列两款新芯片——MI 300X和MI 300A。

MI 300X芯片是适用于各种各样天生式AI运用处景的芯片;MI 300A则更适用于用在HPC 运用和数据中央上。

在硬件参数配置上,两颗芯片有共性也有差异。
两颗芯片都采取采取了一种名为“3.5D封装“的技能光降盆,并且也都是基于 AMD第四代的Infinity架构打造。
在内存方面,两颗芯片都采取了现下大热的HBM 3设计,但是MI 300A用的是 128GB的 HBM 3设计,MI 300X 用的是内存更大的 192GB HBM 3设计;
在打算单元方面,MI 300X 搭载了304个CDNA 3 打算单元,每个打算单元中还有34个打算单位。而MI 300A的打算单元更少,只有228个。
在发布会上,AMD险些全程对标英伟达H100 芯片。从官方表露的数据来看,MI 300X的内存配置是英伟达H100的2.4 倍,峰值存储带宽也是英伟达的2.4 倍,其余, FP8、FP16、TF32算力是英伟达H00的 1.3 倍。
软件是 AI芯片生态中不可获缺的一环,在此前的发布会上,AMD曾经先容过他们的AI软件套件ROCm——和英伟达专有的CUDA不同,这是一个开放开源的平台。
不过短短几个月韶光,AMD就推出了最新版本的ROCm 6,紧张是大模型做了深度优化。
比如,当企业利用MI300X平台、搭配ROCm 6,比较于上一代的配置(MI250芯片+ROCm 5),跑70亿参数量的 Llama 2的延迟韶光少了8倍。若跑130亿参数量的 Llama 2,综合表现乃至还是英伟达H100的1.2 倍。
产品有了, AMD这次也公布了商业化的进展。
AMD方面宣告,OpenAl也宣告增加了AMD Instinct系列 AI加速器的利用。微软、Meta、Oracle三家大厂,对付MI 300X芯片也兴趣浓厚。
个中,微软提到讲采取这可芯片来为Azure ND MI 300X v5 VM赋能;Meta则操持在其数据中央支配MI 300X和ROCm 6;Oracle则将供应基于MI 300X加速器的裸金属打算方案,并基于此生成式AI做事。
其余,惠普、戴尔、遐想等数家数据中央根本举动步伐供应商,也宣告将操持在其产品集成MI300。
在发布会上,AMD董事长苏姿丰表示,估量到2027年,用于数据中央的人工智能芯片的整体市场规模将达到4000亿美元,年复合增长率将达到 70%。
此前,在 AMD的财报会议上,苏姿丰对付这一系列寄予厚望,她曾表示, 随着数据中央 GPU的增长, MI300系列可能会成为 “AMD 历史上发卖额打破 10 亿美元最快的产品。








