机器之心报道

作者：泽南

如何才能做到 AI 应用一次开发，全场景部署？腾给出了答案。

如今的大多数 AI 应用程序都需要跑在多种类型的处理器上，覆盖数十个版本的操作系统，运行在从端侧到云计算集群的各种设备上。这样复杂的环境，对软件的适应性和模型的可裁剪、可伸缩性提出了极高要求。

AI 开源框架也在顺应这股潮流，腾发布的 CANN、MindSpore、MindX 等工具，可以让开发者实现「统一端边云，全端自动部署」，开启了机器学习开发的新时代，一直被人们寄予厚望。

腾的 AI 全栈软件平台。

其中，基础架构作为连接硬件与软件的桥梁，是发挥 AI 算力至关重要的一点。在腾体系中，处在这个位置的正是异构计算平台 CANN（Compute Architecture for Neural Networks）。

腾曾经进行过一项能力展示：得益于 CANN 的架构优化，一块 Atlas 300I 推理卡可以实时处理 80 路 1080p、25FPS 的高清视频。如果在实验室条件下，这个数字还可以更高。这样的技术，如今已经可为所有开发者所掌握。

下一代 AI 生产力工具：操作更轻松，性能还要翻倍

因为直面硬件，CANN 可以直接向开发者开放硬件最底层的能力，所以也一直是被研发人员们重点打磨的那部分。

自 2018 年发布起，腾 CANN 很快经历了三个大版本的更新。从注重边缘侧推理，加速终端机器学习应用速度的 1.0 版，到打通数据中心和训练端，提高 AI 模型训练效率的 2.0 版，CANN 对端边云全场景的支持不断演进。

2020 年 8 月发布的最新版本 CANN 3.0，其核心理念在于统一端边云和架构，自动部署，支持多种计算架构。现在，开发者们只需要在其之上使用一套应用代码，即可兼容 10+ 种设备形态、14+ 操作系统以及多种 AI 框架，使能全场景 AI 开发。

CANN 3.0 是一个完整的开发体系，其中包含编程语言 TBE，编译及调试工具，还有编程模型。其既提供统一编程接口（AscendCL），满足开发者在框架、算子等方面的开发需求，还提供两种算子开发方式，兼具效率和性能。

腾 CANN 是连接硬件和机器学习框架的桥梁，就像 CUDA 之于英伟达 GPU 一样。其支持的深度学习框架包括不限于 MindSpore、TensorFlow、Pytorch、Caffe 和 ONNX。

在 CANN 之上，开发者可以在大规模分布式系统上享受单机编程体验，只需要关注编程本身，完成的算法可以自动化地部署到所有类型的设备上，还都获得了针对各类硬件的专有加速。

结合异构计算架构 CANN 3.0、全场景 AI 计算框架 MindSpore、全流程开发工具链 MindStudio 2.0、腾应用使能 MindX 等工具，腾「全家桶」的强大之处在于把简单留给人类，把复杂留给机器，可以最大程度发挥硬件性能，降低 AI 应用开发的门槛。

只有这样，才能让开发者发挥出自己最大的创造力。

有关人们是如何把 AI 技术应用到各个行业的，华为对开发者做过一个简单的画像：少量的开发者希望进行 AI 算子和神经网络开发，人数只占到 1%他们需要用到 CANN 3.0 和 Mind Studio 的解决方案。

第二类是占比 10% 的 AI 应用开发者，他们需要 AI 的能力来辅助各类研究。这既需要 AI 基础知识，也需要相关专业领域的知识，他们需要的是开源 AI 框架 MindSpore在大多数时间内，开发者们无需了解 AI 算法的具体实现。

第三类开发者，则是把 AI 技术当作一种服务的 90% 客户，他们无需理解应用背后的是 YOLO v3，ResNet50 还是其他什么算法。使用腾全新的 MindX 1.0，可以全面加速这类工作的开发速度。

如果你对于机器学习的开发需求提升到了深入阶段，那么就需要了解并使用 CANN。

从训练模型开始，学习最基础的 AI 操作

在不少评测中，腾展示了自己的强大实力，但作为一个新事物，它还需要更多人的关注。如何才能从模型层面构建定制化 AI 应用，充分释放 AI 硬件性能，实现全端快速部署？

如果你想要学习这些能力的话，腾有系列课程在等着你：在 3 月 25 日，腾的 CANN 训练营将会开启第一期。

「腾 CANN 训练营」将以直播形式进行，面向所有 AI 领域从业者，来自腾软件体系的一线开发者将亲自上阵讲授 CANN 的使用技巧。首期训练营的课程将分为三大部分：应用、模型和算子，难度从低到高递进，时长五周，共十堂课。

如果你有一些 Python 和 C++ 语言的基础，熟悉 Linux 系统的操作，就可以参与进来。一些成功使用腾技术将 AI 落地的方案，将会成为你未来项目开发的有效参考。

光听老师讲网课还不够，每堂课过后还会有课后练习题，最后还有一个综合大题，帮你检查自己学到的知识。你将学会：

自己搭建一个 AI1s 推理云环境，并跑通实验。

使用演示实验中提供的模型，并根据自己对 AscendCL 的理解编写推理应用。

最后，编写出一个带有动态 batch 或动态分辨率推理能力的应用。

这样的课程，今年一共有四期，华为表示这一系列课程的内容会逐渐深入，希望能向开发者们讲透算子开发。

成绩好还有奖励

一个月的学习时间，可以让你掌握大量腾 CANN 的操作技巧，满足所有机器学习开发需求。除了免费报名上课，腾还为参与这次训练营的开发者们准备了一些礼物，其中包括 Mate 40 手机、SOUND X 帝瓦雷音箱等等。

最近几年来，我们见证了华为 AI 硬件和软件技术的不断升级演进，其面向全行业的生态开放创新，使得不少参与其中的企业和开发者们受益。

AI 的发展速度很快，昨天的 SOTA 水平，可能今天就会被颠覆了，腾 AI 平台也在快速发展的过程中。要想让 AI 改变世界，你需要先了解一下它的强大之处，是时候行动起来了。

THE END

转载请联系本公众号获得授权