寒武纪边缘端AI芯片的发布，意味着寒武纪已经率先完成了云边端AI芯片的布局，这对付其参与AI市场的竞争非常关键，对付影响成败的生态培植，寒武纪也已经有方案。
率前辈入边缘AI芯片市场
一样平常情形下，AI芯片按照算力可以分为云端、边缘端和终端。云端AI芯片的算力常日达到上百TOPS，紧张用于AI算法的大规模演习，范例的代表是英伟达的GPU。终端AI芯片则是为了知足IoT、手机、智能摄像头等的AI推理，算力在1~4TOPS之间，Arm以及不少AI芯片初创公司都已经推出了终端AI芯片。
边缘AI芯片的算力介于终端和云端之间，范围在8~30TOPS，为知足的算力需求比终端更大的场景，可以对边缘端汇聚的数据进行AI的演习和推理，这一市场目前产品还不多，而寒武纪思元220正是瞄准这一市场。
据悉，思元220芯片采取的是台积电16nm工艺，基于寒武纪最新一代智能处理器MLUv02架构，实现最大32TOPS（INT4）算力，功耗仅10W。寒武纪副总裁刘道福先容，寒武纪最新一代处理器架构有六大方面的提升和优化，分别是：
第一，通过重新设计运算电路，运算指令的能效大幅提升，单核算力提升8倍；
第二，增加了数据压缩和解压缩指令，大幅节省内存容量和访存带宽；
第三，指令集扩展近百条，功能更强大更灵巧；
第四，增加int4和int16的运算指令，可根据需求灵巧选择，在高性能的场景利用更高性能的int4，在高精度的场景，利用更高精度的int16。
第五，增加了共享的软件可管理的共享缓存，可以软件直接掌握在处理器核之间进行通讯，从而大大优化多核性能；
第六，为了方便处理繁芜数据，增加了灵巧的转置等指令，可以支持各种繁芜的数据预处理。
作为一款深度学习边缘加速芯片，思元220除了核心的自研AI加速器，还集成了4核Arm A55 CPU，主频为1.5GHZ，以及PCIe3.0 1X4 or 2X2, SDIO3.0, eMMC 5.1, 双千兆以太网口。
对付海内非常关注的RISC-V架构处理器CPU，刘道福接管雷锋网等少数媒体采访时表示，寒武纪对付RISC-V的开放表示欣赏，也认为其在IoT等领域存在一定的发展空间。寒武纪对CPU伙伴一向采纳开放互助的态度，也一贯在关注RISC-V的发展动态。
当然，为了降落AI芯片的运用门槛，寒武纪基于思元220推出了M.2加速卡，通过标准的M.2接口可以快速实现加速，售价1999元。未来，寒武纪还会推出更高算力的产品形态。刘道福透露，寒武纪的边缘芯片操持按照一年一代的速率进行迭代。
寒武纪副总裁刘道福
云边端AI芯片矩阵已经形成
思元220的发布的意义在于，一方面是其率前辈入了边缘打算的市场，另一方面，也标志着寒武纪完成了云边真个AI芯片布局。寒武纪科技创始人兼CEO陈天石在去年新一代终端智能处理器IP 产品Cambricon 1M、首款云端智能芯片 Cambricon MLU100 和板卡产品发布会上就表示，三年前我们就开始了两颗芯片的研发，我们时候准备着将寒武纪的产品放入云端。
今年6月，寒武纪宣告推出第二代云端AI芯片思元270（MLU270）及板卡产品。更早的2016年，寒武纪就推出了“寒武纪 1A”处理器，并且大规模运用于智好手机当中。
刘道福表示，思元220的推出将进一步丰富和完善寒武纪端云一体产品体系，代表着寒武纪云边端，推理和演习的产品矩阵已经形成。
寒武纪AI芯片产品矩阵形成，能够让他们供应更加丰富的产品组合，知足更多运用处景的需求。从算力的角度看，既可以分别知足云边真个需求，也可以进行组合实现差异化。从场景看，寒武纪的智能终端处理器IP能够知足手机、IoT等终端产品的需求。边缘真个思元220则可以运用于电力、能源、交通、医疗、零售、金融、物流、教诲等领域。云真个思元270面向AI推理的产品已经推出，演习版板卡也操持于今年内推出。
未来，寒武纪还会通过架构的创新增强自身的实力。刘道福认为，在AI芯片架构创新方面，除了早期的处理器架构方面的创新，更多的创新会转向工程技能，包括前辈工艺，前辈封装，比如2.5D，3D封装，以及chiplet。其余，软硬件协同设计，高效的编译器技能对付全体AI芯片的落地也非常主要。
AI生态培植影响成败
软硬协同设计对付AI芯片的落地非常主要，软件生态的培植更是关系到寒武纪芯片成功的关键。我们看到，寒武纪采取的云端一体的计策，首先是在产品的命名上，刘道福见告雷锋网，我们的产品命名中，第一个数字的含义是第几代架构，今年推出的云端和边缘端产品都是采取我们的第二代架构，以是云端和边缘端产品第一个数字都是2，第二个数字用于区分云端和边缘端。未来随着产品线进一步扩充，第二个数字会有更多型号，以便区分运用处景，详细包括区分边缘或云端，或者区分推理或演习等。
除了统一的处理器架构和指令集，寒武纪也采取统一的软件栈。刘道福表示，寒武纪在终端和云真个AI芯片共享同样的软件接口和生态，我们称为Cambricon Neuware。通过云产品的运用不断升华寒武纪软件栈的前辈性，通过真个运用不断推广寒武纪软件栈的实用性以及用户和开拓者数量。这个思想是寒武纪率先提出的，也得到了很多业内同行的相应、认同，或在自建系统上也接管采纳类似的做法。
详细而言，Cambricon Neuware包含了多种深度学习/机器学习编程库，以及编程措辞、编译器、程序调试/调优工具、驱动工具和视频编解码工具等。在云端，开拓者可以利用NeuWare供应的完备工具链大略高效地实现深度学习乃至机器学习运用的开拓和调试；在终端，可以借助云端丰富的硬件资源和强大的功能进行开拓和调试，仅在支配阶段将开拓完成的离线文件支配到终端上，办理了终端上开拓调试困难的问题。同时，由于同是基于Cambricon指令集，因此云端和终真个运用程序可以做到无缝的相互切换。
寒武纪将如何进一步完善生态？据理解，寒武纪会重点发力高校和开拓者生态。高校方面，已经和很多海内顶级高校进行告终合课程等实践，在开拓者生态方面，寒武纪开拓者论坛已上线，寒武纪版本Caffe已开源，后续会持续有更多组件开源开放出来，开拓者社区的其他功能组件也将连续完善。
刘道福还指出，在生态构建方面，开放和标准化是个非常主要的成分，当古人工智能框架层面已经很开放了，并且形成了一些事实标准。而人工智能芯片当前的状态，却不如软件那么开放和标准化，因此，未来人工智能芯片评测标准，乃至指令的开放和标准化，会是一个值得关注的方向。
雷锋网小结
作为海内的AI独角兽，寒武纪广受关注。不过，关注度就意味着更大的压力，特殊是在AI芯片进入落地阶段确当下，如何更好更快地落地对寒武纪同样是巨大的磨练。随着思元220的发布，寒武纪云边端都推出了产品，丰富的产品有利于寒武纪得到更多的客户。但更为关键的是通过软件培植强大的生态推动芯片的迭代及AI的发展，这时候，除了供应易用且高性能的产品外，保持开放的心态也非常关键。
雷锋网年度评比——探求19大行业的最佳AI落地实践
创立于2017年的「AI最佳掘金案例年度榜单」，是业内首个人工智能商业案例评比活动。雷锋网从商用维度出发，探求人工智能在各个行业的最佳落地实践。
第三届评比已正式启动，关注微信"大众年夜众号“雷锋网”，回答关键词“榜单”参与报名。详情可咨询微旗子暗记：xqxq_xq
