3月19日凌晨4点至6点，2024年英伟达GTC大会在美国加利福尼亚州的圣何塞会议中央正式拉开序幕。
作为环球市值第三大公司英伟达 2024 的开年大戏，身着标志性皮夹克的万亿富豪黄教主站在舞台中心，揭橥GTC 2024主题演讲《见证AI的变革时候》，涵盖了高性能打算、天生式AI、AR/VR/MR、机器人及边缘打算等多个前沿领域。
黄仁勋在这次会议上表示：“这次GTC大会不仅是英伟达的产品宣发会，更是搜集了多家前沿科技企业与机构的开拓者大会。”
他说道：“本日我们所要展示的每一样东西都是仿照天生的，而不是动画。其之以是如真实般动人，完备是由于它遵照了物理规律。天下本就充满美感。之以是让人惊叹，是由于它通过机器人技能被授予了生命，通过人工智能被激活。您本日即将看到的所有内容都是完备天生的，完备仿照的，全在Omniverse中实现。您即将享受的，是天下上首场统统皆低廉甜头的音乐会。”
当演讲结束时，黄仁勋坦言，“如果你问我，心目中的GPU是什么样子，本日的发布便是我的答案。”英伟达已经让 AI 迎来了新的“摩尔定律”时期。
然而，市场的反应却稍显谨慎，演讲过后英伟达股价盘后一度跌超2%。但以Vivek Arya为首的美国银行剖析师率先将英伟达的目标价格从925美元上调至1100美元；TD Cowen剖析师给予英伟达跑赢大盘的评级和 900美元的目标价；汇丰银行也将英伟达的目标价从880美元上调至1050美元，重申了对该股的“买入”评级。
此前3月18日AI观点股全线飙涨。个中算力、CPO观点股领涨，新易盛、天孚通信、中际旭创股价均刷新历史最高记录，寒武纪涨超13%，工业富联涨逾8%。
全新一代 Blackwell 架构芯片，重磅炸场
在大会上，英伟达正式推出Blackwell 平台。黄仁勋提到，Blackwell 不是芯片名，而是全体平台的名字。详细来讲，采取 Blackwell 架构的 GPU 分为B200 和 GB200 产品系列，后者集成了 1 个 Grace CPU 和 2 个 B200 GPU。
据先容，Blackwell GPU以数学家David Harold Blackwell的名字命名，同样沿用了英伟达此前推出的Hopper架构。
B200 拥有 2080 亿个晶体管（而 H100/H200 上有 800 亿个晶体管），采取台积电 4NP 工艺制程，可以支持多达 10 万亿个参数的 AI 模型，还带有 192GB 速率为 8Gbps 的 HBM3E 内存，AI 算力能达到 20 petaflops（FP4 精度），比较之下上代 H100仅为4 petaflops。
黄仁勋举例称，过去如果要演习一个1.8万亿参数量的GPT模型，须要8000张Hopper GPU，花费15兆瓦的电力，连续跑上90天，但如果利用Blackwell GPU，只须要2000张，跑90天只要花费四分之一的电力。
同市价得把稳的是，Blackwell B200 并不是传统意义上的单一GPU，它是将2个Blackwell GPU和1个Grace CPU结合在一起，能够为LLM推理事情负载供应30倍性能，同时还可大幅度提高效率。
它是天下上第一次有如此高效整合在一起的多 die 芯片，或许也是在制程升级速率减慢之后，升级算力的唯一方法。
除了芯片本身之外，此架构还采取第五代NVLink高速互联、第二代Transformer引擎，多方位全面升级。据黄仁勋先容，这一全新的芯片将在2024年晚些韶光上市。
活动现场，黄仁勋还比拟了 Blackwell（右手）与 Hopper GH100 GPU（左手）的尺寸大小。
黄仁勋表示，Blackwell带来了“令人难以置信的愉快”：“我们将会把Blackwell推广给环球的AI公司，现在有很多这样的公司都在不同领域做着令人惊奇的事情……环球各地都在签约启动Blackwell，这款Blackwell将成为我们历史上最成功的产品发布。”
目前，英伟达在公告通稿中称，微软Azure、AWS、谷歌云等一众科技巨子都已成为Blackwell架构的首批用户。
此外，英伟达还推出了基于GB200的DGX Super Pod一站式AI超算办理方案，采取高效液冷机架，搭载8套DGX GB200系统，即288颗Grace CPU和576颗B200 GPU，内存达到240TB，FP4精度打算性能达到11.5ELOPs（每秒11.5百亿亿次），比较上一代产品的推理性能提升30倍，演习性能提升4倍。
黄仁勋说，如果你想得到更多的性能，也不是不可以—发挥钞能力—在DGX Super Pod中整合更多的机架，搭载更多的DGX GB200加速卡。
Blackwell还配备了RAS引擎。为了确保可靠性、可用性和可掩护性，Blackwell GPU集成了专用引擎和基于AI的预防性掩护功能，以最大限度地延长系统正常运行韶光并最大限度地降落运营本钱。老黄表示，过去8年，打算规模扩展已经增加了1000倍。
全面升级软件做事，NVIDIA NIM
GTC 大会伴随着天生式 AI 技能爆发，算力市场逐步升温，硬件和软件方面的竞争都在加剧。
这次发布会，英伟达也在软件上火力全开。英伟达推出模型定制服务，Nvidia Inference Manager，简称 NIM。未来实现有英伟达硬件的地方，就可以进行大略的调试利用大模型。
在模型支持方面，NIM展现出强大的兼容性，不仅支持Nvidia自家的模型互助库，还与AI21 Labs、Cohere等互助伙伴及Meta、Hugging Face、Stability AI和Google等业界巨子的开源模型深度整合。此外通过Nvidia AI Enterprise平台及Microsoft Azure AI、Google Cloud Vertex AI等云做事，客户能够轻松访问NIM微做事，并与LangChain、LlamaIndex等主流AI框架无缝集成，实现对市情上主流模型的全面覆盖。
在Nim搭建过程中，Nvidia NeMo Retriever技能发挥了关键浸染。利用这一技能，公司专有数据可集成到Nim微做事中，为用户供应个性化的NVIDIA NeMo体验。NeMo不仅作为一个高效检索工具，更是一个智能对话机器人，帮忙用户快速检索公司内部PPT等文件，供应精准的技能支持，成为每个企业不可或缺的Copilot。
此外，黄仁勋展示了基于英伟达数据和芯片行业信息的Nvidia ChipNeMo，它依托开源Llama2模型，利用英伟达专有数据可回答只有英伟达内部CTL实验细节问题。这一NeMo微做事不仅限于内部利用，还能跨公司共享，成为工业大模型的GPT Store，企业可添加自身数据，轻松得到专有大模型。为此英伟达推出ai.nvidia.com平台承载这些NeMO，助力传统企业快速实现AI转型，无论是构建专有模型还是连接企业私有数据，都将变得大略高效。
黄仁勋表示 “成熟的企业平台坐拥数据金矿， 他们节制了大量可以转化为副驾驶的数据，当你准备好运行这些人工智能谈天机器人时，你将须要一个人工智能铸造厂”。NIM正是这样一个铸造厂。它帮助构建企业AI转型的Copilot级产品，可以被视为公司AI化所需的基石。
目前，NeMo微做事的整体架构这一产品，将首先在即将发布的NVIDIA AI企业版第五版中搭载。英伟达全公司已经都用上了Nim，包括Box、Cloudera、Cohesity、Datastax、Dropbox等互助伙伴也都已经参与Nim的利用和优化过程。
Project GR00T，机器人领域通用大模型发布
据理解，英伟达目前正在构建包括NVIDIA IAI、Omniverse、ISAAC三大平台，三大平台均与机器人家当高度关联。个中NVIDIA IAI搭载DGX系列产品，用于仿照物理天下，Omnivese搭载RTX和OVX系列产品，用于驱动数字孪生的打算系统，ISAAC搭载AGX系列，用于驱动人工智能机器人。
这次大会，黄仁勋宣告了Project GR00T项目-一个人形机器人的模型平台，基于 Jetson Thor（英伟达的一款 GPU）来开拓生产机器人。由GR00T驱动的机器人可以更好地理解自然措辞，并通过不雅观察人类动作来仿照运动。
Jetson Thor是英伟达推出的全新打算平台，具备模块化架构，优化性能、功耗和尺寸，可安全、自然地与人和机器交互。该平台集成下一代GPU和Transformer Engine，采取Blackwell架构，供应每秒 800 万亿次8位浮点运算 AI 性能，以运行 GR00T 等多模态天生式 AI 模型，从而集成功能安全处理器、高性能 CPU 集群和 100GB 以太网带宽，轻松应对繁芜任务。
“开拓通用人形机器人根本模型是当今 AI 领域中最令人愉快的课题之一。天下各地的机器人技能领导者正在搜集各种赋能技能，致力于在人工通用机器人领域实现打破。”黄仁勋表示。
演讲末了，黄仁勋并没有进行一个高昂的总结展望，以一排人形机器人影像与两个小机器人做了扫尾。
黄仁勋说：“在人类天下里，类人机器人无疑会发挥巨大的浸染，当下我们所设置的这些事情站、制造和物流的办法，从长远角度来看，或许并非为人类而设计，却是为类人机器人所设计的。”
目前英伟达表示，正在为领先的人形机器人公司开拓一个综合的 AI 平台，如 1X Technologies、Agility Robotics、Apptronik、波士顿动力公司、Figure AI、傅利叶智能、Sanctuary AI、宇树科技和小鹏鹏行等。
黄仁勋对开拓者影响
黄仁勋曾指出，加速打算和天生式AI已迎来迁移转变点。过去30年，英伟达深耕加速打算领域，办理通用打算不善于的问题。他认为,AI是被加速打算所推动的伟大发明，很可能是21世纪最主要的技能。
天生式AI将改变信息处理办法，从检索转向天生。未来打算形态将发生变革，持续演习成为常态，学习、演习、支配和运用过程将融为一体，形成持续循环，当打算本钱降落到靠近零时，AI打算机将具备自我改进能力，合成数据并进行强化学习。
据专家预测，五年后文本、图像、视频和语音等将实时输入大措辞模型（LLM），打算机将直通所有信息源，通过多模态交互不断自我改进。
黄仁勋表示，未来将是持续学习的时期，人们可以选择是否支配学习成果，与打算机的交互也将更加自然，无需依赖繁芜编程措辞，AI正在弥合人类与技能之间的鸿沟，让更多人能够享受技能带来的便利。
“我们要如何让打算机按自己的想法干事？我们要如何在打算机上实现指令微调？这些问题的答案便是提示词工程，而且更多是种艺术、而非纯挚的技能。”也便是说人类将可以专注于领域专业知识，而天生式 AI 将补齐编程技能这块短板。黄仁勋认为这将彻底颠覆软件的开拓格局。
目前，英伟达正环绕大模型供应专业知识，为企业客户供应高效支持，助力人们更好地利用AI技能实现创新。在黄仁勋看来，英伟达所做的每一件事，都是在创造技能，同时创造市场。
