5月12日,英伟达宣告,环球有9台新型超级打算机正在利用Nvidia Grace Hopper超级芯片来加速科学研究和创造,从而推动高性能打算(HPC)家当转向以AI驱动。
Grace Hopper超级芯片
即将上线的这9台超算包括法国的EXA1-HE、波兰的Helios、瑞士的Alps、德国的JUPITER、美国UIUC的DeltaAI以及日本的Miyabi。

这9个别系的算力加在一起可以供应200 exaflops(即每秒两百亿亿次浮点数打算)的处理能力。
此外,英国布里斯托大学的Isambard-AI和Isambard 3,以及美国洛斯阿拉莫斯国家实验室和德克萨斯高等打算中央的系统也开始利用Grace Hopper的硬件和平台。
个中,Isambard-AI第一阶段的超级打算机HPE Cray EX2500就配备了168个GH200超级芯片,成为有史以来最高效的打算机之一。
估量剩余的5280颗芯片将于今年夏天交付给Isambard-AI系统,届时其性能将提高约32倍,从而推动数据剖析、药物创造、景象研究和更多AI4Science领域的发展。
英伟达Grace Hopper超级芯片架构是第一个真正的异构加速平台,将Hopper GPU的高性能和Grace CPU的多功能性领悟在单个芯片中,专为加速打算和天生式AI而打造。
GH200芯片架构示意图
该系列中的GH200芯片在AI和高性能运算方面有非常强大的能力,单个GH200芯片由一个72核Grace CPU和一个H100 GPU组成,内存容量最高可达624GB。
对付百亿亿级的高性能打算或万亿参数级别的AI模型,芯片间的传输速率险些和芯片的打算能力一样主要,做事器集群中的每个 GPU之间须要进行高速、无缝的通信,以实现大规模加速。
英伟达的NVLink技能便是为理解决通信问题,GH200中的CPU和GPU通过NVLink C2C连接在一起,供应900GB/s带宽,是第五代PCIe带宽的7倍。
在单个做事器上,通过NVlink连接的双GH200芯片可以供应比H100高3.5倍的GPU内存容量和3倍的带宽。
然而,英伟达并没有公开GH200的价格,可以参考的是,目前H100系列官方售价约为4万美元。
英伟达进军超算
近两年来,英伟达不断在做事器和高性能打算领域布局,与AMD、英特尔等公司展开竞争。
只管英伟达的GPU业务如日方升,已经赚得盆满钵满,险些掌握全部的AI GPU市场,但进军高性能打算也非常主要,由于给超算系统供应硬件和平台是一项规模巨大且利润丰硕的业务。
目前,天下各国都在不谋而合地加大数据、根本举动步伐等方面的投资,以建造更高效的超算系统,这些超算中央以及科技巨子都可以成为Grace Hopper硬件及其平台的潜在用户。
为此,英伟达基于Arm架构从头构建了Grace系列数据中央CPU,旨在创建高性能打算和AI超级芯片。
然而,在2月发布的HPCC基准测试中,Grace还是掉队于英伟达最新的Sapphire Rapids CPU,在八项测试中仅有三项更快。
但也有文章指出,Grace在散热和本钱方面存在上风,这也是构建数据中央须要考虑的关键成分。
最新一代的Grace Hopper超级芯片于去年8月推出,是天下上第一个配备HBM3e内存的处理器,容量达到141GB,旨在处理「天下上最繁芜的天生式人工智能事情负载,涵盖大型措辞模型、推举系统和矢量数据库」。
英伟达CEO黄仁勋穿着他标志性的皮夹克,在世界顶级打算机图形学会议SIGGRAPH 2023的讲台上发布了这款产品。
HBM(高带宽内存)各代之间的差异紧张在于传输速率而非容量。比较AMD所利用的HBM3内存,HBM3e提速约50%,将Grace Hopper中的数据传输速率从原来的4TB/s提升到5TB/s。
除了Grace Hopper系列,英伟达也在年夜志勃勃地扩展更多的产品线,以知足不同层次、不同场景的打算需求。
比如老黄在今年3月的GTC大会上展示的下一代Blackwell系列芯片属于英伟达,个中的GB200型号结合了一个Grace CPU和两个B200 GPU,实现5 petaflops(每秒千万亿次浮点打算)的处理能力,比较之下,H200 GPU的原始打算能力只有1 petaflops。
《巴伦周刊》剖析师Tae Kim在推特中写道,据汇丰银行剖析师估算,一颗GB200芯片的本钱可能高达7万美元,而且英伟达更方向于为客户供应集成了多个芯片的做事器,而不是直接出售芯片,会进一步抬高芯片的均匀价格。
比如GB200 NVL36做事器配备36个GB200芯片,均匀售价约为180万美元,搭载72个芯片的NVL72做事器售价可能达到300万美元。
加速AI驱动的科学研究
英伟达对基于Grace Hopper的超算中央寄予厚望,认为此举将加速科学研究进程。
高性能打算 (HPC)是推动科学打算进步的最主要工具之一,从景象预报、能源勘探到打算流体动力学和生命科学,研究职员正在将传统的仿照方法与人工智能、机器学习、大数据剖析和边缘打算相领悟,以办理主要的科学问题。
高性能打算用于气候建模
英伟达超大规模和高性能打算副总裁Ian Buck在一份声明中表示「人工智能正在加速对景象变革的研究、加快药物创造,并在数十个其他领域取得打破」,「Nvidia Grace Hopper正成为高性能打算的主要组成部分,由于它们能够在提高能源利用效率的同时改造全体行业。」
参考资料:
https://www.tomshardware.com/tech-industry/supercomputers/nvidia-announces-supercomputers-based-on-its-grace-hopper-platform-200-exaflops-for-ai
https://www.extremetech.com/computing/nvidia-gh200-superchip-is-now-powering-9-supercomputers
https://nvidianews.nvidia.com/news/nvidia-grace-hopper-ignites-new-era-of-ai-supercomputing