据理解，360 AI安全研究院从属于360未来安全研究院，一贯专注于人工智能与安全的前沿技能研究，涉及AI根本举动步伐安全、AI算法安全、AI数据安全等方向的研究事情。在AI根本举动步伐安全方面，目前已累计创造100多个人工智能根本软硬件漏洞。
此外，360AI安全研究院曾联合清华、西安交大的研究职员创造AI运用中图像缩放模块存在的漏洞，提出了一种新型的数据流降维攻击方法，影响了国内外主流的AI云做事。这一研究成果揭橥在信息安全领域顶级国际会议USENIX Security上。
在这次ISC 2020 大会的人工智能与安全论坛上，刘昭以某款人脸识别设备能让任意人通过为例，解释不仅AI算法存在漏洞，其所依赖的关键根本举动步伐也同样会被攻击，并进一步戳穿了AI关键根本举动步伐存在的安全风险。
白帽黑客“骗过”人脸识别设备
2017年底，工业和信息化部发布的《促进新一代人工智能家当发展三年行动操持(2018-2020年)》中提出，2020年，繁芜动态场景下人脸识别有效检出率超过97%，精确识别率超过90%。
也是在这一年，刷脸支付入选《麻省理工科技评论》的环球十大打破性技能榜单，苹果新品iPhoneX发布的FaceID，更是将人脸识别技能推向高潮。
3年来，对人脸识别技能的安全风险谈论已经不计其数。在ISC 2020大会上，360 AI安全研究院先容了某款人脸识别设备存在的诸多安全问题，比如给终端特定的端口发送一些后门指令，终端设备在吸收云端数据时存在栈溢出问题，以及在云端做事器部分存在未授权访问、目录穿越等风险。
正是通过攻击上述漏洞，终极可以在某人脸识别设备中实现任意职员都能通过验证的效果。
值得关注的是，这种攻击不是针对AI算法的攻击，而是对AI算法所依赖的根本举动步伐进行的攻击。“针对根本举动步伐攻击，终极可能会更快达到攻击效果。”刘昭在演讲中表示，大多数研究职员倾向于对算法安全的研究，比如对抗样本攻击、后门攻击等。虽然AI根本举动步伐安全风险巨大，其严重性却随意马虎被忽略。
这正是刘昭在ISC 2020 大会上演讲的主题——AI关键根本举动步伐安全风险。据先容，AI根本举动步伐紧张分为三个关键部分：首先是深度学习框架，包含框架自身代码实现、第三方图象处理库、算子库等；其次是硬件干系，包含GPU驱动、芯片安全等；末了是云平台，包含虚拟化、web平台等。
AI关键根本举动步伐面临三重风险
据先容，AI关键根本举动步伐的三个层面都面临一定安全风险。
针对深度学习框架安全风险。刘昭阐明称，深度学习框架紧张可以划分为云端学习框架和终端学习框架。云端框架安全风险紧张来自于自身代码的实现以及第三方的依赖库问题；终端框架安全风险紧张存在于模型网络参数、模型网络构造，以及模型转换过程。据理解，360 AI安全研究院已经在多个深度学习框架及其依赖组件中创造了100多个漏洞，如OpenCV，hdf5，numpy等。
针对硬件干系的安全风险。据英伟达官网统计，截至今年7月，关于GPU驱动漏洞的数目达到数百个；芯片漏洞以幽灵、熔断为例，幽灵漏洞可以造成透露敏感数据、实行特定代码，熔断漏洞导致用户态获取特权内存的数据，这些漏洞影响了Intel、部分ARM的处理器。
针对云平台的安全风险。360 AI安全研究院表示，用于深度学习任务的节点性能强大，因此总会有一些攻击者想要造孽利用这些资源进行挖矿。比如，今年6月，微软通报部分Kubeflow存在未授权访问的问题，导致大量设备被造孽挖矿。攻击者可以未授权访问Kubeflow的掌握面板，通过各种方法支配带有挖矿程序的容器。
随着AI技能的不断发展，AI系统存在的漏洞风险给安全行业带来巨大寻衅，个中AI关键根本举动步伐存在随意马虎被忽略的安全问题，但同时，AI系统的安全问题也给安全行业带来机会。
“只有在确保AI系统的安全，才有可能放心享受AI的便利，那么担保系统中AI关键根本举动步伐的安全至关主要。”360 AI安全研究院表示，AI关键根本举动步伐的安全问题可以通过权限掌握、访问隔离、参数过滤等方法进行缓解，针对AI关键根本举动步伐的安全问题，须要建立多维度、一体化风险评估方法以及对应防御方法。
未来，360 AI安全研究院将聚拢国内外顶尖人工智能安全创新要素，研究人工智能系统各个环节安全问题，打破人工智能安全攻防重大关键共性技能，构建自动化安全风险评测平台，从而盘踞人工智能安全技能高地，形成国际领先的的人工智能安全评估和管控能力。
来源：中国新闻网