“算力”干系家当近期持续火爆,智算中央的培植,也正在各处着花。
进入2024年,就有武昌智算中央、中国移动智算中央(青岛)、华南数谷智算中央、郑州人工智能打算中央、博大数据深圳前海智算中央等相继开工或投产利用。

据不完备统计,目前全国正在培植或提出培植智算中央的城市已经超过30个,投资规模超百亿元。
到底什么是智算中央?智算中央紧张用来做什么?智算中央都有哪些特点?
01作甚智算中央?
根据《算力根本举动步伐高质量发展行动操持》定义,智算中央是指通过利用大规模异构算力资源,包括通用算力(CPU)和智能算力(GPU、FPGA、ASIC等),紧张为人工智能运用(如人工智能深度学习模型开拓、模型演习和模型推理等场景)供应所需算力、数据和算法的举动步伐。
也可以说,智算中央因此人工智能打算任务为主的数据中央。
数据中央常日包括三种种别,除了智算中央以外,其余两种分别因此通用打算任务为主的通算中央,以及以超级打算任务为主的超算中央。
2023年是人工智能发展的主要迁移转变年,AIGC技能取得了打破性进展,大模型演习、大模型运用等新业务正在快速崛起,作为智能算力的载体,数据中央也已经从数据机房、通算中央,发展到现阶段的超算中央和智算中央。
02智算中央与通用数据中央有何不同?
智算中央,常日与云打算紧密干系,强调资源掌握和根本举动步伐管理的灵巧性。在云环境中,数据中央供应商卖力硬件和某些软件工具的掩护,而客户则拥有数据。比较之下,传统确当地数据中央须要由企业自行管理和掩护所有的数据资源。
实质的不同导致两种模式在成本投入、资源支配以及安全性方面都有着极大的差异。
在成本投入上,智算中央客户无需大量的硬件和软件本钱即可选择适宜自己的做事模式,如公有云、私有云或稠浊云;而传统数据中央的客户则须要投入大量资金来购买和掩护自己所需的做事器、网络和存储设备。
在资源支配和安全性上,智算中央的客户可随时随地通过互联网远程访问和管理自己的数据和运用,与此同时还可以享受数据中央供应商供应的专业的安全保障,如防火墙、加密、备份和规复等;而传统数据中央的客户受到办公/指定地点的限定,且需自己进行保护和管理数据。
智算中央,大略来说便是专门做事于人工智能的数据打算中央,能够为人工智能打算供应所需的专用算力。比较传统数据中央,智算中央能知足更具针对性的需求,以及更大的打算体量和更快的打算速率,为大模型演习推理、自动驾驶、AIGC等各垂直行业场景供应AI算力。
03AI智算,须要什么样的芯片?
在硬件的选择上,智算中央与传统数据中央的硬件架构也有所不同。
AI智算,须要什么样的算力芯片?
传统数据中央的硬件架构比较单一,紧张包含做事器、存储设备和网络设备。智算中央比较于此硬件架构就会更加的灵巧,不同的运用处景也会选择不同的打算节点。
智算做事器是智算中央的紧张算力硬件,常日采取“CPU+GPU”、“CPU+NPU”或“CPU+TPU”的异构打算架构,以充分发挥不同算力芯片在性能、本钱和能耗上的上风。
GPU、NPU、TPU的内核数量多,善于并行打算。AI算法涉及到大量的大略矩阵运算任务,须要强大的并行打算能力。
而传统通用做事器则因此CPU作为紧张芯片,用于支持如云打算和边缘打算等根本通用打算。
AI智算,须要什么样的存储芯片?
不止是算力芯片的不同,AI智算对存储芯片也有着更高的哀求。
首先是用量。智算做事器的DRAM容量常日是普通做事器的8倍,NAND容量是普通做事器的3倍。乃至它的PCB电路板层数也明显多于传统做事器。
这也意味着智算做事器须要布局更多的存储芯片,以达到所需性能。
随着需求的水涨船高,一系列瓶颈问题也浮出水面。
一方面,传统冯诺依曼架构哀求数据必须加载到内存中,导致数据处理效率低、延迟大、功耗高;另一方面,存储器墙问题使得处理器性能的增长速率远快于内存速率,造成大量数据须要在SSD和内存间通报;此外,CPU挂载的SSD容量和带脱期制也成为性能瓶颈。
面对“存储墙”、“功耗墙”等问题,传统打算体系构造中计算存储架构亟需升级,将存储与打算有机领悟,以其巨大的能效比提升潜力,才能匹配智算时期巨量数据存储需求。
针对这一系列问题,存算一体芯片或许是一个不错的答案。
除了芯片不同之外,为了充分发挥性能以及保障稳定运行,AI做事器在架构、散热、拓扑等方面也进行了强化设计。
04这些芯片,谁在布局?
算力芯片的布局情形
在GPU方面,GPU善于大规模并行打算。华为、天数智芯、摩尔线程、中科曙光、燧原科技、英伟达、英特尔、AMD等都推出有干系的芯片。比如,华为推出了昇腾系列AI芯片昇腾910和昇腾310等,这些芯片专为AI演习和推理设计,具有高性能和低功耗的特点。昇腾系列已广泛运用于数据中央、云做事和边缘打算等领域,为智算中央供应强大的算力支持。
英伟达推出了多款针对AI演习和推理的GPU产品,如A100、H100等。英特尔也推出了多款AI芯片产品,如Habana Labs的Gaudi系列芯片,旨在与英伟达竞争。AMD在AI芯片领域也有所布局,推出了MI系列GPU和APU产品。
在FPGA方面,CPU+FPGA则结合了灵巧性与高效能,适应算法快速变革。赛灵思、英特尔是市场紧张参与者,干系产品有:赛灵思的VIRTEX、KINTEX、ARTIX、SPARTAN产品系列以及英特尔的Agilex产品系列;海内紧张厂商包括复旦微电、紫光国微和安路科技等。
在ASIC方面,CPU+ASIC供应高性能定制打算,适宜特定需求。国外谷歌、英特尔、英伟达等巨子相继发布了ASIC芯片。海内寒武纪、华为海思、地平线等厂商也都推出了深度神经网络加速的ASIC芯片。
在NPU方面,NPU是专门为人工智能和机器学习场景而设计的处理器。与CPU和GPU不同,NPU 在硬件构造上进行了针对性的优化,专注于实行神经网络推理等AI干系的打算任务。CPU的通用性和NPU的专用性相结合,使得全体系统能够灵巧应对各种AI运用处景,快速适应算法和模型的变革。
目前市场上已有浩瀚量产的NPU或搭载NPU模块的芯片,个中有名的包括高通Hexagon NPU、华为的昇腾系列,值得把稳的是,各大厂商在芯片打算核心的设计上都有着独特的策略。
在TPU方面,TPU是谷歌专门为加速深层神经网络运算能力而研发的一款芯片,更加专注于处理大规模的深度学习任务,具备更高的打算能力和更低的延迟。TPU也属于一种ASIC芯片。
在DPU方面,DPU专门设计用于数据处理任务,具有高度优化的硬件构造,适用于特定领域的打算需求。不同于CPU 用于通用打算, GPU 用于加速打算, DPU是数据中央第三颗主力芯片。国际三大巨子英伟达、博通、英特尔的DPU产品霸占海内大多数市场,赛灵思、Marvell、Pensando、Fungible、Amazon、Microsoft 等多家厂商在近 2-5 年内也均有 DPU 或相似架构产品生产。海内厂商包括中科驭数、芯启源、云豹智能、大禹智芯、阿里云等。
国产算力芯片走到哪一步了?
在2024北京移动算力网络大会上,中国移动算力中央北京节点正式投入利用,标志着我国智算中央培植进入新阶段。作为北京首个大规模训推一体智算中央,该项目占地约57000平方米,支配近4000张AI加速卡,AI芯片国产化率达33%,智能算力规模超1000P。
北京超级云打算中央运营实体北京北龙超级云打算有限任务公司CTO甄亚楠近日表示,目前帮国产大模型“嫁接”国产芯片,只需15天旁边就可以跑通。他认为算力共享会是行业大趋势,高端GPU算力资源须要各方努力。
近年来,中国人工智能算力芯片的市场格局紧张由英伟达主导,其霸占了80%以上的市场份额。
甄亚楠表示,“我们也非常关注国产芯片的发展,据理解,海内自研的大模型,乃至一些开源的大模型都在不断往国产芯片上去做移植。现在从芯片利用角度来讲,有些模型已经可以跑通运行了,须要追赶的方面紧张在类似GPU这种高性能。”
“全体的国产化是分层级的,芯片属于硬件这一层,除此之外还有软件的生态。对付国产的芯片来讲,不管是框架还是生态,都须要有一定的造就周期。”甄亚楠呼吁,终极的运用方要给到国产芯片足够的信心。
存储芯片的布局情形
智算中央在存储方面须要具备高容量、高可靠性、高可用性等特点。存储设备常日采取高性能的硬盘或固态硬盘,并配备冗余的存储架构,以确保数据的安全性和可访问性。三星、美光、SK海力士等都有干系芯片都广泛运用于数据中央、云打算等领域,为智算中央供应高性能的存储办理方案。
海内厂商近年来在DRAM与NAND技能追遇上也实现了快速发展。
除了传统的存储芯片外,智算中央还须要上文提到的新型存储—存算一体芯片发挥更大的浸染。
从存算一体发展进程来看,自2017年起,英伟达、微软、三星等大厂提出了存算一体原型,同年海内存算一体芯片企业开始呈现。
大厂们对存算一体架构的需求是实用且落地快,而作为最靠近工程落地的技能,近存打算成为大厂们的首选。诸如特斯拉、三星等拥有丰富生态的大厂以及英特尔、IBM等传统芯片大厂都在布局近存打算。
海内初创企业则聚焦于无需考虑前辈制程技能的存内打算。个中,知存科技、亿铸科技、九天睿芯等初创公司都在押注PIM、CIM等“存”与“算”更亲密的存算一体技能路线。亿铸科技、千芯科技等专注于大模型打算、自动驾驶等AI大算力场景;闪易、新忆科技、苹芯科技、知存科技等则专注于物联网、可穿着设备、智能家居等边缘小算力场景。
亿铸科技致力于用存算一体架构设计AI大算力芯片,首次将忆阻器ReRAM和存算一体架构相结合,通过全数字化的芯片设计思路,在当前家当格局的根本上,供应一条更具性价比、更高能效比、更大算力发展空间的AI大算力芯片换道发展新路径。
千芯科技专注于面向人工智能和科学打算领域的大算力存算一体算力芯片与打算办理方案研发,在2019年率先提出可重构存算一体技能产品架构,在打算吞吐量方面比较传统AI芯片能够提升10-40倍。目前千芯科技可重构存算一体芯片(原型)已在云打算、自动驾驶感知、图像分类、车牌识别等领域试用或落地;其大算力存算一体芯片产品原型也已在海内率先通过互联网大厂内测。
知存科技的方案是重新设计存储器,利用Flash闪存存储单元的物理特性,对存储阵列改造和重新设计外围电路使其能够容纳更多的数据,同时将算子也存储到存储器当中,使得每个单元都能进行仿照运算并且能直接输出运算结果,以达到存算一体的目的。
05智算规模占比超30%,算力培植风起云涌
7月初,天府智算西南算力中央正式在四川成都投运。据先容,该中央将以算力支撑成都打造千亿级人工智能核心家当,赋能工业制造、自然科学、生物医学、科研仿照实验等领域的人工智能创新。
这不是个例。近一个月来,银川绿色智算中央项目集中开工;北京移动在京建成首个大规模训推一体智算中央,支撑高繁芜度、高打算需求的百亿、千亿级大模型演习推理;郑州人工智能打算中央开工培植,总投资超16亿元……以智算中央为代表的数字新基建正加快培植落地。
国家统计局7月15日发布的数据显示,截至5月尾,全国新建5G基站46万个;方案具有高性能打算机集群的智算中央达10余个,智能算力占算力总规模比重超过30%。
据中国IDC圈不完备统计,截止2024年5月23日,中国大陆共有智算中央283座,已覆盖中国大陆所有省、自治区和直辖市。个中有投资额统计的智算中央项目140座,总投资额达到4364.34亿元。有方案算力规模统计的智算中央项目177座,总算力规模达到36.93万PFlops。
这些“智算中央”标准不一、规模不同,算力规模一样平常在50P、100P、500P、1000P,有的乃至达到12000P以上,虽然AI浪潮给智算中央带来了广阔的发展前景,但供需错配、价格昂贵、重复培植等仍旧是我国算力培植面临的难题。
与此同时,多地也纷纭出台专项方案,明确未来几年培植目标,并在技能、运用、资金等方面完善支持举措。例如,江苏发布省级算力根本举动步伐发展专项方案,提出到2030年全省在用总算力超过50EFLOPS(EFLOPS是指每秒百亿亿次浮点运算次数),智能算力占比超过45%;甘肃提出对算力网络新型根本举动步伐在用地、市政配套举动步伐培植、人才引进、资金等方面给予政策支持。
“人工智能大模型等运用爆发式发展带动了智能算力需求激增。”国家信息中央信息化和家当发展部主任单志广表示,智能打算发展迅速,已经成为我国算力构造中增速最快的类型,个中大模型是智能算力的最大需求方,需求占比近六成。估量到2027年,中国智能算力规模年度复合增长率达33.9%。






