周五下午,在位于德克萨斯州奥斯汀的亚马逊芯片实验室内,六名工程师对一个严格保密的新型做事器设计进行了测试。
亚马逊高管拉米·辛诺周五参不雅观实验室时表示,该做事器装有亚马逊的人工智能芯片,可与市场领导者 Nvidia 的芯片竞争。

亚马逊正在开拓自己的处理器,以限定对昂贵的 Nvidia 芯片的依赖(即所谓的 Nvidia 税),该芯片为其亚马逊网络做事的部分人工智能云业务供应动力,而这正是紧张的增长动力。

亚马逊希望通过自主研发的芯片帮助客户以更低的本钱进行繁芜的打算并处理大量数据。其竞争对手微软和 Alphabet 也在做同样的事情。
亚马逊云业务 AWS 旗下安纳普尔纳实验室 (Annapurna Labs) 的工程总监辛诺 (Sinno) 表示,亚马逊的客户越来越哀求 Nvidia 的更便宜的替代品。
亚马逊于 2015 年收购了 Annapurna 实验室。
虽然亚马逊的 AI 芯片研发才刚刚起步,但其实行非 AI 打算的主力芯片 Graviton 已经开拓了近十年,目前已是第四代。AI 芯片 Trainium 和 Inferentia 是较新的设计。
AWS 打算和网络副总裁戴维·布朗 (David Brown) 周二表示:“因此,在某些情形下,价格和性能可提高 40% 到 50%,以是本钱该当是利用 Nvidia 运行相同型号的一半。”
AWS 的发卖额占亚马逊整体收入的近五分之一,与去年同期比较,今年第一季度其发卖额飙升 17%,达到 250 亿美元。AWS 掌握着云打算市场约三分之一的份额,而微软的 Azure 则霸占约 25% 的份额。
亚马逊表示,在最近的 Prime Day 期间,该公司支配了 25 万个 Graviton 芯片和 8 万个定制 AI 芯片,以应对其平台上活动的激增。
冲破英伟达的芯片包围圈
亚马逊一贯在开拓自己的 AI 芯片以降落本钱,这也有助于提高亚马逊网络做事 (AWS) 的盈利能力。然而,这家电子商务巨子正在努力开拓能够与 Nvidia 标准芯片相媲美的 AI 芯片。
项目迁移问题、兼容性差距和低利用率是阻碍亚马逊 AI 芯片遍及的一些问题。这种情形还使亚马逊从其云业务中得到的巨额收入面临风险。据《商业底细》宣布,亚马逊面临的寻衅是通过机密文件和熟习此事的人士确定的。
Trainium 和 Inferentia 是亚马逊设计的顶级芯片,于去年年底首次亮相。该出版物宣布称,去年,Trainium 在 AWS 客户中的采取率仅为 Nvidia 图形处理单元的 0.5%。
报告称,亚马逊在 2024 年 4 月通过其 AWS 做事对不同 AI 芯片的利用百分比进行了评估。与此同时,Inferentia 的采取率略高,为 2.7%。Inferentia 是一款专为推理而设计的芯片,推理是一项 AI 任务,常日指终极消费者利用 AI 模型的打算过程。报告提到一份内部文件称;
“客户早期的考试测验暴露了一些摩擦点,并阻碍了采取。”
上述表述指的是大型云客户在向亚马逊定制芯片转型时面临的寻衅。Nvidia 的 CUDA 平台被认为对客户更有吸引力,报告指出这是关键缘故原由。
环球最大的云做事供应商 AWS 目前正在开拓其自主研发的打算机芯片,以促进运营。亚马逊有时会炫耀其在 AI 芯片方面的努力。然而,文件中展示的画面与该公司的预期有所不同。
内部文件称,该公司正努力应对采取率缓慢的问题,但亚马逊首席实行官却有不同的意见。在第一季度财报电话会议上,亚马逊首席实行官安迪·贾西 (Andy Jassy) 表示,对 AWS 芯片的需求很高。
“我们拥有最广泛的 NVIDIA 打算实例选择,但考虑到它与现有替代方案比较具有良好的性价比上风,对我们的定制硅片、演习和推理的需求相称高。”
Andy Jassy还在致投资者的信中提到了 AWS 硅片的早期采取者,称“我们已经有多个客户在利用我们的 AI 芯片,包括 Anthropic、Airbnb、Hugging Face、Qualtrics、Ricoh 和 Snap。”与此同时,Anthropic 的情形则完备不同,由于亚马逊是这家初创公司最大的支持者。这家云打算巨子已向 Anthropic 投资了 40 亿美元,这笔投资协议哀求该公司必须利用 AWS 设计的硅片。
亚马逊网络做事供应多种处理器,从 Nvidia 的 Grass Hopper 芯片到 AMD 和英特尔。其大部分盈利来自设计自己的数据中央芯片,这有助于避免从 Nvidia 购买 GPU,从而节省本钱。
亚马逊于 2018 年推出了其首款 AI 芯片 Inferntia,但 Nvidia 在供应更广泛被不同行业采取的办理方案方面仍旧处于领先地位。AWS、微软和谷歌是 Nvidia 最大的客户。所有这些巨子都通过他们的云做事租用 GPU。
今年 3 月,AWS 首席实行官 Adam Selipsku 出席了 Nvidia GTC 2023。两家公司揭橥告终合声明,重点关注双方在推进天生式人工智能方面的计策互助。
“我们两家公司之间的深度互助可以追溯到 13 年前,当时我们共同在 AWS 上推出了天下上第一个 GPU 云实例,本日我们为客户供应最广泛的 NVIDIA GPU 办理方案。”
Nvidia 的平台 Cuda 常日受到开拓者的青睐。由于 Nvidia 花费了多年的韶光和精力来创建它,而且业界已经采取了它,这让他们处理事情变得更随意马虎。另一方面,亚马逊仍旧须要通过反复试验来办理这个难题。
参考链接
https://www.channelnewsasia.com/business/amazon-racing-develop-ai-chips-cheaper-faster-nvidias-executives-say-4505146







