人工智能是打算机科学的分支,致力于让打算机实现人类的智能。与AI技能有关的观点是机器学习,它授予打算机系统从数据中学习的能力,与其它打算机软件比较,机器学习算法不须要特定指令,而仅仅须要从大量例子中抽象出模板与规则,也即在一个特界说务下,打算机系统自身可以不断地学习提升自己的性能,它以神经网络为根本学习和处理信息。
滥用人工智能指的是利用AI系统来推进其攻击目标的情形,如利用机器学习让网络攻击自动进行,并且通过自我学习不断提升。犯罪分子和犯罪集团将人工智能技能利用在其犯罪模式中给网络安全带来新的寻衅。犯罪分子可能利用AI技能来增强他们对某一系统的攻击,提高攻击的命中率,探索新的受害者,布局出创新的犯罪模板,降落被查控的几率。AI技能也具有在人工智能领域形成“犯罪软件即做事”(Caas)这一犯罪模式的风险。在这一犯罪模式中,网络犯罪生态系统中技能职员向其他网络犯罪分子供应产品和做事,技能上缺少履历的犯罪分子和高等威胁行为者也能迅速履行繁芜的攻击。这一模式降落网络犯罪攻击的门槛,是犯罪的驱动力,提高了人工智能技能被滥用的风险。只有把握犯罪分子利用AI技能的可能办法,才可能有针对性地设置应对方法,提升网络安全的能力,以期实现对犯罪的有效预防,为未来应对新兴网络犯罪形势做好准备。滥用人工智能的可好手段包括以下几个方面:
一是利用人工智能的恶意软件。恶意软件代指可以中断用户的打算机、手机、平板电脑或其他设备的正常运行或对其造成危害的恶意代码。比如蠕虫病毒、特洛伊木马、特工软件等,犯罪分子可能利用AI技能来提高恶意软件攻击网络系统的水平。除此之外,人工智能技能也可以让传统的黑客技能实现优化,让攻击办法难以被预测。虽然目前一些杀毒软件厂商也在利用机器学习来提高他们杀毒侦测的水平,但经证明,人工智能技能依然可以探求到杀毒软件的弱点,并成功规避。
二是利用AI技能破解密码与验证码。犯罪分子利用AI技能破解密码,让破解密码的过程相较于传统的办法更具有针对性,效率也更高且难以被创造。犯罪分子很可能开拓利用AI技能破解密码的软件,以实现其犯罪目的。同样,验证码安全系统也被人工智能技能威胁。
三是在社交网络上实现智能内容天生,内容解析与用户行为仿真仿照。目前的AI技能可以实现智能内容天生、智能内容解析、用户行为仿照。算法具有仿照特定人类行为的能力进而规避安全系统。
四是在网络游戏中作弊。作为网络天下的主要一部分,网络游戏领域也该当是人工智能技能的“用武之地”,犯罪分子也将攻击的触手伸向游戏领域,尤其是专业的有利可图的电子竞技领域。在线游戏竞赛涉及大量奖金,犯罪分子利用最新技能在游戏过程中进行作弊。机器人利用深度学习算法,不仅能够玩游戏,而且还能开拓出这些类型的游戏作弊办法。
五是利用AI技能进行社会工程学攻击。社会工程学攻击是一种利用人为的漏洞进行欺骗的手段。比如,犯罪分子利用AI技能理解受害者的信息,制造假象,从而履行犯罪行为。
滥用人工智能技能将会面临严重的刑事法律风险,触犯多种罪名。一是侵财类犯罪,紧张是诱骗犯罪。行为人利用人工智能技能中智能内容天生、内容解析,用户行为仿真仿照等技能,网络他人信息,仿照特定人或群体的行为办法,以伪装他人身份,使受害者产生缺点认识,从而支配财产。在这种情形下,AI技能是犯罪分子履行诱骗行为的手段,利用AI技能理解受害者信息,减少与受害者之间的信息差,骗取受害者的信赖,从而履行犯罪行为。如前所述,人工智能可能会被用来进行游戏作弊,游戏作弊毁坏了公正竞争规则,行为人利用人工智能技能虚构游戏参与者与游戏过程,骗过游戏系统,取得游戏奖金,应以诱骗罪论定。二是陵犯秘密类犯罪。人工智能技能可能被利用来破解密码与验证码,躲避系统安全方法,获取干系秘密。根据毁坏系统的领域不同,可以分为:陵犯商业秘密罪,造孽侵入打算机信息系统罪,造孽获取打算机信息系统数据、造孽掌握打算机信息系统罪。三是打算机信息系统犯罪。人工智能恶意软件有自我学习能力,危害极大,影响设备的正常运行乃至对其造成危害。
对人工智能技能进行规制,防控其可能的刑事风险,有以下几点建议:
首先在立法上,建议增设滥用人工智能类犯罪,实现预防性立法。人工智能作为一项技能,一样平常情形下是作为实现其它犯罪目的的工具。人工智能具有深入学习、自主学习的能力,其智能化强,一旦被滥用社会危害性大,因此,纵然滥用人工智能体履行干系犯罪的预备行为也可能造成重大法益侵害。在立法上,为规制干系技能的利用,采取预备行为实施化、帮助行为正犯化的立法路径实现犯罪预防。刑法改动案(九)中增设的造孽利用信息网络罪,帮助信息网络犯罪活动罪即是可资借鉴的先例。
对干系部门来说,加强对人工智能技能的有效监管。人工智能技能是一把双刃剑,它提高生产效率,创新发展办法,给社会带来了巨变,但是它一旦被运用在违法犯罪的领域也会造成不可估量的后果,因此应该加强对人工智能技能的管控,让人工智能技能的运用被限定在合法正当领域。要实现对人工智能技能的有效监督,对待滥用人工智能技能的行为应主动预防相应,以减轻此类攻击的影响。
对AI技能的研发者与操作者来说,应履行有效的风险管理。首先,要确保安全的 AI设计框架,从源头掌握人工智能技能的安全,人工智能系统的开拓要遵照设计安全和隐私设计原则,以担保其安全性。开拓特定的数据保护框架,以在安全和受控的环境(沙盒观点)中持续开拓、试验和培训 AI系统,以确保AI系统的最大准确性。其次,应采取风险管理方法对来自当前和未来人工智能利用和滥用的威胁进行分类,并相应地优先考虑相应方法;设置人工智能技能标准,按设计来促进网络安全。
来源: 法治日报法制网