文 | 心缘
智东西8月10日宣布，在本日的华为HAI 2020大会上，华为发布迄今为止业界最丰富的AI全栈软件平台，覆盖从根本软件到运用使能，同时展示了最强的AI算力平台。
这是华为首次全方位表露其昇腾全栈AI根本软件能力，异构打算架构CANN、全场景AI打算框架MindSpore、全流程开拓工具链MindStudio、昇腾运用使能MindX四大核心软件一并亮相。
这一次，华为AI的主角从颇负盛名的芯片，换成了开释华为硬件性能的隐蔽英雄——软件。
作为衔接AI技能与行业运用之间的桥梁，昇腾AI全栈软件平台是华为实现普惠AI的主要基座，不仅决定AI开拓效率，还关乎AI硬件在实际运用中真正能发挥出的最佳算力。
华为的昇腾AI全栈软件平台，究竟强在何处？
通过华为昇腾AI全栈软件平台全景图，我们可以领略到华为在AI布局方面的严密与端庄，同时对华为的AI实力和上风有了更清晰全面的认知。
基于充分结合的软硬件根本举动步伐，华为昇腾打算家当生态正快速扩容，和更多互助伙伴一同推动AI打算家当的发展。
在持续升温的AI打算竞赛中，华为已然准备就绪，并率先冲在了推进智能化进程的最前排。
一、昇腾打算软件全景图：4大软件产品构筑8大竞争力
“硬件是AI的根本，软件才是AI的未来。”
会上，华为昇腾打算业务总裁许映童首次揭晓昇腾AI全栈软件平台全景图，他提到，在AI领域，华为70%的研发职员投入于软件研发，面向不同开拓者，推出三层的开拓模型。
在Atlas硬件的根本上，针对专业开拓者、入门级开拓者及业务开拓者的不同开拓需求，华为推出三大软件平台CANN、MindSpore、MindX，以及覆盖算子开拓、模型开拓、运用开拓的全流程开拓工具链MindStudio。
个中，异构打算架构CANN是支持全场景AI开拓的芯片底层根本软件，也是获取华为昇腾打算资源避不开的入口，它具备软硬件解耦的特色，后向兼容全系列华为芯片。
MindSpore是全场景AI打算框架，目前已覆盖逾1.6万用户，与33所高校开展AI课程、研究互助，供应20多种主流模型，覆盖150多种运用。下个月，华为将在HC大会上推出MindSpore 1.0版本以及为网络模型寻衅赛颁奖。
MindX是昇腾运用使能平台，通过“2+1+X”助力AI打算融入千行百业，2是深度学习平台MindX DL和智能边缘平台MindX Edge，1是优选模型库ModelZoo，X则是使能各行业的SDK。值得期待的是，面向视觉和制造的两个行业SDK将在2020年10月正式对外上线。
“AI的运用程序须要跑在多类型通用CPU，数十个版本的操作系统，运行在从穿着设备，到大规模集群的各种设备，算力和存在差异数百万倍，对软件的适应性和可裁剪、可伸缩性提出了极高的哀求。”
许映童说：“而支配的运用处景包括了港口、道路、沙漠等各种繁芜场景，设备的供电、环境适应性、网络可连接性等等均是巨大的寻衅。”
华为昇腾打算业务总裁许映童
这些寻衅使得AI融入实际运用的门槛非常高，在此背景下，华为提出以开拓者为中央，通过全栈软件，把AI算力开释出来，做事于行业运用和开拓。
基于Atlas硬件与昇腾AI全栈软件平台的组合拳，华为昇腾打算已构筑8大竞争力。
（1）高性价比：据华为实测，华为AI推理卡Atlas 300I的推理性能、华为最高算力密度做事器Atlas 800的演习性能均超过业界领先竞品。
（2）统一API：CANN通过昇腾统一编程接口AscendCL API，支持端边云全场景协同。
（3）开放架构：支持TensorFlow、PyTorch等主流AI框架，并适配客户自研框架。
（4）使能行业：MindX供应多个行业SDK、优选模型库、深度学习平台及智能边缘平台，个中优选模型库中供应的预演习高性能模型到今年底估量有超过60个，可大大降落AI运用门槛。
（5）边云协同：中央演习+边云推理，一站式开拓，统一模型支配及更新，模型保护/加密。
（6）最优集群：昇腾集群线性度较业界领先。
（7）开拓工具：面向不同类型开拓者，构筑贯穿全体开拓流程的工具链MindStudio。
（8）统一运维：基于FD/SmartKit构筑智能运维。
二、异构打算架构CANN 3.0详解：专为AI设计，端边云全场景协同
市情上的AI芯片层出不穷，那么华为的独到上风有什么？
回答这个问题，就避不开华为昇腾的一大秘密武器——CANN。
如今，华为的产品线已覆盖云、管、端、芯，鲜少有公司具备如此弘大而全面的产品矩阵。如果每类芯片各做一套编程措辞，那么对开拓者而言，要学习的内容会非常繁琐耗时。
在这一背景下，为AI设计的异构打算架构CANN起到了极为关键的浸染。
华为投入逾千人的研发团队专攻CANN研发，历经三年迭代，形成了端边云协同的统一编程架构CANN 3.0。
详细而言，CANN 3.0有三大创新特性：端边云全场景协同、AscendCL使能高效开拓、开释硬件澎湃算力。
1、支持软硬件解耦，端边云全场景协同
CANN 3.0具有极强的伸缩性和可适应性，下接异构芯片，上承AI框架，只需编写一套运用代码，即可兼容覆盖端边云的10+种设备形态、14种操作系统、多种主流AI框架。
华为海思的麒麟芯片、小海思的Hi3559A等芯片、Atlas全系列硬件以及华为云，均利用CANN来实现底层AI芯片使能，即一次开拓，全场景适用。
CANN 3.0的核心功能，正好是要真正做大AI打算“家当蛋糕”所不可或缺的“软”实力。
2、统一API、两种算子开拓办法、四大开放性设计
CANN 3.0拥有昇腾统一编程接口AscendCL API、两种TBE算子开拓模式，以及Plugin适配、图领悟优化接口、Ascend-IR接口、预置算子库源码开放这四大开放性设计。
异构打算架构CANN 3.0
神经网络因此算子来组成不同运用功能的网络构造。这些不同的模块全部对外开放，支持第三方框架、自定义算子领悟、自定义模型、自定义修正算子，端到端覆盖全场景AI运用开拓。
所有底层资源均通过专为深度学习设计和优化的昇腾统一编程接口AscendCL来对外开放。
AscendCL将算子调用API归一化，支持全系列昇腾芯片，一套运用代码可以在不同芯片上运行，从而有效简化编程难度，为神经网络供应高效算力支撑。
此外，AscendCL还保持后向兼容，现在编写的代码，也支持在未来推出的华为昇腾芯片上运行，确保运用软件可用性。
考虑到不同开拓者的需求差异，CANN 3.0供应DSL和TIK两种张量加速引擎（TBE）算子开拓办法，以兼顾对效率和灵巧性的不同需求。
个中，TBE-DSL面向入门开拓者，可自动实现数据切分和调度，可覆盖70%的算子，将算子开拓韶光降落较业界降落70%，使开拓者只需关注打算实现表达。
TBE-TIK则面向高等开拓者，供应指令级编程和调优过程，可覆盖全部算子，需由开拓者手工完成指令集调用过程，可兼具灵巧性和高性能。
3、亲和昇腾的图编译技能，1000+高性能算子库支持
CANN 3.0还具备亲和昇腾的图编译技能，可有效提升图优化效率，最大化发挥芯片算力。
神经网络可看作一张张的图，过去大部分图在host CPU实行，如今昇腾的图编译器，实现整图下沉实行，图和算子均可在device侧实行，减少了芯片与host CPU的交互韶光，从而更充分地发挥昇腾芯片的算力。
图拆分和领悟方面，通过自动算子领悟等技能，将大量节点自动拆分、领悟，以减少打算节点和打算韶光，持续保持打算资源的高强度运行。
数据Pipeline智能优化极大提升数据资源处理效率，通过打算数据智能切分与智能分配流水机制，实现单指令打算单元的最高利用率，并持续保持打算资源高强度运行。
目前CANN 3.0供应有1000+深度优化的硬件亲和算子，支持多框架共用，且自适应全系列昇腾芯片，可实现最佳运行性能。
自家的软件，最懂如何挖掘自家硬件的性能。
基于高度适配的软硬件组合，华为Atlas硬件在主流推理和演习模型的性能均为业界领先。
在主流推理场景，据华为实测，AI推理卡Atlas 300I性能超过业界主流推理卡。特殊是在高清视频场景中，单张Atlas 300I推理卡可同时处理80路1080p、25FPS的高清视频，是业界主流推理卡可同时处理路数的2倍。
对付有大量视频剖析需求的企业，可同时处理的视频路数越多，整体硬件本钱低落的越快。旷视、格灵深瞳等企业正基于华为AI推理卡打造高路数视频剖析办理方案。
华为实测数据显示，在主流模型演习场景，华为最高算力密度做事器Atlas 800在多种模型的实测性能超过业界主流新品演习做事器，均匀实测性能约为业界主流上一代演习做事器的2.5倍。
除了打算卡外，软件能力也充分开释了华为AI集群的总体性能。
线性度是指多个机器同时处理运算时，受机器间通信等能力影响，终极实际发挥性能资源的利用率。经由L2网络与CANN层算法的联合优化，昇腾芯片的线性度超过业界领先水平。
三、开拓工具百口桶MindStudio 2.0：即装即用，高度智能
工欲善其事，必先利其器，全流程开拓工具链MindStudio即是华为供应的AI开拓“利器”。
MindStudio 2.0供应了一套大略易用的一站式开拓工具，可高效完成端到端全场景开拓，让开发者从算子开拓、模型演习、模型推理、运用开拓到运用支配的全流程一套工具全部搞定，无需在不同工具上完成，有效降落开拓门槛。
MindStudio可一键式完成安装支配、可视化模型开拓和智能调优功能大大提高模型开拓效率，算子开拓方面则更加高效。
总体来看， MindStudio 2.0能带给开拓者即装即用、沉浸体验、智能准确三个上风。
（1）即装即用：一键式自动化环境准备支配，三步完成软硬件安装，所有工具均供应插件形式，并基于开拓场景供应各个环节的场景化辅导文档，还为配置参数、专业术语等难明得词汇供应实时注释、链接和参考。
（2）沉浸体验：环绕开拓流程供应一站式导视系统，AI帮助一键补全算子开拓的语法，关联文件自动高亮，针对不同开拓工具自适应供应对应AI工具的快捷功能，减少开拓过程中的操作步骤，并供应无边界UI设计，打造沉浸式开拓体验。
（3）智能准确：基于用户认知供应硬件运行单元级别可视化的调优剖析报告，基于不同维度供应多样化的模型精度比拟结果。
除了提高开拓效率外，华为昇腾还供应了用于优化模型演习、推理性能的工具，这些工具调用了CANN底层的能力来做亲和网络。
例如，昇腾演习加速工具利用独占的Less BN（智能识别网络中不必要的BN算子）和随机冻结算法大幅提升模型演习效率，可将ResNet模型的演习吞吐量提高25.6%；昇腾模型压缩工具利用独占的智能算法加速推理进程，可将Yolov3模型推理速率提高47.2%。
结语：普惠AI的先行者
如果我们对华为AI布局的认知仅限于冲锋在前的AI硬件产品，那就低估了华为的AI实力。
从华为整体的昇腾打算家当来看，华为的全栈全场景AI办理方案正日臻完善。从底层IP核、芯片、硬件、芯片使能软件、开源AI框架等根本举动步伐，到贴近运用的软件平台和行业SDK，华为充分照顾到不同AI开拓诉求。
华为正遵照“硬件开放，软件开源，使能互助伙伴”策略，将昇腾AI定位为AI根本举动步伐供应者和千行百业使能者，积极构建开放的生态。
华为还是那个“上不做运用、下不碰数据”的“黑地皮”耕耘者，而华为昇腾打算的技能种子正由越来越多的生态伙伴们播撒到千行百业。
“极大略单纯用，让AI打算无处不在，极致性能，让AI打算触手可及”的AI计策，不止是面向行业客户，也在赋能广大的独立软件开拓商和AI开拓者。
在华为昇腾AI打算业务的操持中，未来三年将发展100万名开拓者。
为了达成这一目标，华为昇腾已经面向高校、开拓职员、初创企业等推出了互助伙伴操持，并供应从学习、产品构建到产品上市、发卖的全方位勉励机制，为超过AI技能与行业运用的鸿沟积极贡献力量。
截至今日，华为已联合超过60家高校开设昇腾课程，有100多家独立软件开拓商（ISV）完成昇腾认证，已孵化120多起落地办理方案，培养了超过4万名开拓者。
在这活气盎然的信息时期迁移转变时候，我们正见证着AI不着痕迹地改变天下。
而华为昇腾打算作为个中颇具战斗力的实力玩家，正以广而深的生态布局，拉动我国AI打算家当以更强的驱动力走向未来。
