作者:泽南
如何才能做到 AI 运用一次开拓,全场景支配?昇腾给出了答案。
如今的大多数 AI 运用程序都须要跑在多种类型的处理器上,覆盖数十个版本的操作系统,运行在从端侧到云打算集群的各种设备上。这样繁芜的环境,对软件的适应性和模型的可裁剪、可伸缩性提出了极高哀求。
AI 开源框架也在顺应这股潮流,昇腾发布的 CANN、MindSpore、MindX 等工具,可以让开发者实现「统一端边云,全端自动支配」,开启了机器学习开拓的新时期,一贯被人们寄予厚望。
昇腾的 AI 全栈软件平台。
个中,根本架构作为连接硬件与软件的桥梁,是发挥 AI 算力至关主要的一点。在昇腾体系中,处在这个位置的正是异构打算平台 CANN(Compute Architecture for Neural Networks)。
昇腾曾经进行过一项能力展示:得益于 CANN 的架构优化,一块 Atlas 300I 推理卡可以实时处理 80 路 1080p、25FPS 的高清视频。如果在实验室条件下,这个数字还可以更高。这样的技能,如今已经可为所有开拓者所节制。
下一代 AI 生产力工具:操作更轻松,性能还要翻倍
由于直面硬件,CANN 可以直接向开拓者开放硬件最底层的能力,以是也一贯是被研发职员们重点打磨的那部分。
自 2018 年发布起,昇腾 CANN 很快经历了三个大版本的更新。从看重边缘侧推理,加速终端机器学习运用速率的 1.0 版,到打通数据中央和演习端,提高 AI 模型演习效率的 2.0 版,CANN 对端边云全场景的支持不断演进。
2020 年 8 月发布的最新版本 CANN 3.0,其核心理念在于统一端边云和架构,自动支配,支持多种打算架构。现在,开拓者们只须要在其之上利用一套运用代码,即可兼容 10+ 种设备形态、14+ 操作系统以及多种 AI 框架,使能全场景 AI 开拓。
CANN 3.0 是一个完全的开拓体系,个中包含编程措辞 TBE,编译及调试工具,还有编程模型。其既供应统一编程接口(AscendCL),知足开拓者在框架、算子等方面的开拓需求,还供应两种算子开拓办法,兼具效率和性能。
昇腾 CANN 是连接硬件和机器学习框架的桥梁,就像 CUDA 之于英伟达 GPU 一样。其支持的深度学习框架包括不限于 MindSpore、TensorFlow、Pytorch、Caffe 和 ONNX。
在 CANN 之上,开拓者可以在大规模分布式系统上享受单机编程体验,只须要关注编程本身,完成的算法可以自动化地支配到所有类型的设备上,还都得到了针对各种硬件的专有加速。
结合异构打算架构 CANN 3.0、全场景 AI 打算框架 MindSpore、全流程开拓工具链 MindStudio 2.0、昇腾运用使能 MindX 等工具,昇腾「百口桶」的强大之处在于把大略留给人类,把繁芜留给机器,可以最大程度发挥硬件性能,降落 AI 运用开拓的门槛。
只有这样,才能让开发者发挥出自己最大的创造力。
有关人们是如何把 AI 技能运用到各个行业的,华为对开拓者做过一个大略的画像:少量的开拓者希望进行 AI 算子和神经网络开拓,人数只占到 1%——他们须要用到 CANN 3.0 和 Mind Studio 的办理方案。
第二类是占比 10% 的 AI 运用开拓者,他们须要 AI 的能力来赞助各种研究。这既须要 AI 根本知识,也须要干系专业领域的知识,他们须要的是开源 AI 框架 MindSpore——在大多数韶光内,开拓者们无需理解 AI 算法的详细实现。
第三类开拓者,则是把 AI 技能当作一种做事的 90% 客户,他们无需理解运用背后的是 YOLO v3,ResNet50 还是其他什么算法。利用昇腾全新的 MindX 1.0,可以全面加速这类事情的开拓速率。
如果你对付机器学习的开拓需求提升到了深入阶段,那么就须要理解并利用 CANN。
从演习模型开始,学习最根本的 AI 操作
在不少评测中,昇腾展示了自己的强大实力,但作为一个新事物,它还须要更多人的关注。如何才能从模型层面构建定制化 AI 运用,充分开释 AI 硬件性能,实现全端快速支配?
如果你想要学习这些能力的话,昇腾有系列课程在等着你:在 3 月 25 日,昇腾的 CANN 演习营将会开启第一期。
「昇腾 CANN 演习营」将以直播形式进行,面向所有 AI 领域从业者,来自昇腾软件体系的一线开拓者将亲自上阵讲授 CANN 的利用技巧。首期演习营的课程将分为三大部分:运用、模型和算子,难度从低到高递进,时长五周,共十堂课。
如果你有一些 Python 和 C++ 措辞的根本,熟习 Linux 系统的操作,就可以参与进来。一些成功利用昇腾技能将 AI 落地的方案,将会成为你未来项目开拓的有效参考。
光听老师讲网课还不足,每堂课过后还会有课后练习题,末了还有一个综合大题,帮你检讨自己学到的知识。你将学会:
自己搭建一个 AI1s 推理云环境,并跑通实验。
利用演示实验中供应的模型,并根据自己对 AscendCL 的理解编写推理运用。
末了,编写出一个带有动态 batch 或动态分辨率推理能力的运用。
这样的课程,今年一共有四期,华为表示这一系列课程的内容会逐渐深入,希望能向开拓者们讲透算子开拓。
成绩好还有褒奖
一个月的学习韶光,可以让你节制大量昇腾 CANN 的操作技巧,知足所有机器学习开拓需求。除了免费报名上课,昇腾还为参与这次演习营的开拓者们准备了一些礼物,个中包括 Mate 40 手机、SOUND X 帝瓦雷音箱等等。
最近几年来,我们见证了华为 AI 硬件和软件技能的不断升级演进,其面向全行业的生态开放创新,使得不少参与个中的企业和开拓者们受益。
AI 的发展速率很快,昨天的 SOTA 水平,可能本日就会被颠覆了,昇腾 AI 平台也在快速发展的过程中。要想让 AI 改变天下,你须要先理解一下它的强大之处,是时候行动起来了。
报名链接:https://developer.huaweicloud.com/signup/96edd6b85451473fb953fc12566b9b6e