美个图

成小鲜肉

粗放男

换个声

AI当他们套上了这件马甲一切细思极恐啊

成嗲美眉

阿诈里

变个音

成你老板

当你的

1容颜1

被盗取

当你的

1声音1

被偷走

当你的

1信息1

被编削

当你的

1手机1

被假造

AI的

神乎其神

1竟让1

骗子

为所欲为

这事

无孔不入

这事

细思极恐

互联网社交发展日月牙异,随着AI(人工智能)的遍及和低本钱化,声音、照片、视频,乃至手机号码、个人信息,都可以迅速地按照需求被变动、更换。

令人细思极恐的是,AI这样的“神操作”竟成了阿诈里们手中的“神器”。
他们通过所谓的“黑科技”,盗取、编削、假造个人信息,瞬间就能掏空你的口袋。

最近,“新民帮侬忙”"大众年夜众号收到不少市民反响,称他们都曾经历过AI骗局。
那么,不法分子到底是如何通过AI技能,实现诱骗的呢?帮忙君展开一番调查。

换脸换头

隐私堪忧

嫌弃自己颜值不足高,在互联网交友时期“吃了亏”?

软件可以帮你忙。
帮忙君打开苹果运用商店APP STORE,搜索关键词“美图”。
拥有129万次下载量的美图秀秀软件打出“神仙抠图照片变少女漫”的宣扬标语迅速映入眼帘。

美图秀秀App打出“神仙抠图照片变少女漫”的宣扬标语

打开软件后弹出一条关照:“美图秀秀”想访问您的照片,如果不许可,你将无法访问系统相册进行编辑以及保存处理后的照片和视频。

点击“赞许”后,帮忙君看到,软件功能强大,“美容”“马赛克”“抠图”等功能搜罗万象。

帮忙君在手机相册内选择了一张自己和刘恺威的照片,并点击利用“抠图”功能,App弹出信息称:精准识别须要利用美图云做事器,全程信息加密不会透露您的照片。

在美图秀秀App内,精准识别抠图时,软件会有“不会透露照片”的提示。
但是,对付为何识别须要利用云做事器、以及如何担保照片不流出等安全信息,App内没有阐明

随后,下方显示了赤色背景的“开始处理”和淡化、字体变小的“取消”选项。

帮忙君点击“开始处理”,很快,刘恺威和帮忙君就“换了脸”。

这样一顿操作有什么用?首先,能够知足你和明星“换脸”的心愿。
不过,你的照片有可能已被“传上云端”,乃至被人贩卖,用于牟利。

先前据央视曝光,只要花上10块钱,就能够在网上买到一堆图片,用于隐蔽自己的信息、注册社交账号等等。

帮忙君在搜索引擎百度内键入“照片”,瞬间弹出一亿多个结果。
而在搜索结果的能干位置,就能看到一些陌生人的证件照。
如果利用软件,在几分钟之内,就能和其他人“换脸”。
更恐怖的是,如果你的照片被不法分子利用后,履行诱骗,末了还可能会给你惹上麻烦。

听到这里,你是否会感到脊背一凉?

别焦急,可以修正的远不止照片,还有“换头术”可以体验。

帮忙君曾宣布过,利用《ZAO-逢脸造戏》的APP,能和心仪的明星彻底“换脸”,乃至能和异性明星演一场“对手戏”。
点击查看

不过,必须将自己的照片上传,并且要验证手机号,个人信息安全根本无法得到保障。

变音变声

诈财骗物

事实上,骗子远比你还懂技能。

一个长久不联系的好友,发来一段“似曾相识”的语音,张口就问你借钱,你会赞许么?

家有高中在读的儿子,平时只能在课间利用手机。
儿子发来微信语音,称学校有两个“推优名额”,须要立时在线付款。
你会付么?

先别急转账、付款,由于,声音很可能是经由大数据剖析后,“修正”出来的。

狡猾的骗子会利用算法——

筛选随意马虎被骗的群体;

初步筛选后,会通过窥伺朋友圈、谈天记录等,来剖析个人偏好和性情特点;

末了合成出最像你可能乐意互换的朋友的声音。

实在这些,你自己也可以下载软件来实现。
一款名为“变声器语音包”的软件,在APP STORE内拥有2.1万的下载量。

APP STORE里的“变声器语音包”软件下载页面

打开该软件后,只弹出一条信息:“变声器语音包”想访问您的麦克风手机铃声制作须要麦克风访问权限用以录制音频导入到APP中,若谢绝权限则无法录制视频。

大多数变声App均未设门槛,只要赞许访问麦克风就能利用

帮忙君点击“好”之后进入软件,软件显示“男声”“女声”“大叔”“萌妹”等变声选项,却没有显示《用户隐私》等信息。

打开变声软件,就能够即时改变自己的声音,即便超过性别,也完备不在话下

帮忙君点击“萌妹”,随后录制了一句“我是新民帮忙君”,男声瞬间变为嗲嗲的女声。

这样的技能,细思恐极。

App Store里能搜到不少变声App

在一些社交重于游戏本色的人眼里,透过冰冷的屏幕,一句成熟的“大叔音”,或许就能博得妹子的好感;同理,想和游戏技能好的男生搭讪,变声“萌妹音”,成功的概率就可能更高一些。

还有一些职业“陪玩”“代练”,就可能通过这样的软件,变声后,为自己谋取更多收益;乃至有些直播博主,全程开启变声,让人多送代价真金白银的“鲜花”“火箭”……

远不止于此。

一些不法分子通过伪装你的上司、领导,给你发来语音。
如果只是看笔墨,一样平常人可能还有所戒备,如果是相似度很高的语音,那就很有可能“中招”了。
如果适值你是公司的财务,那潜在丢失,可能就不是一个小数目了……

41款APP

违规侵权

帮忙君理解到,12月19日,国家工业和信息化部信息通信管理局就曾发布《关于侵害用户权柄行为的APP(第一批)通报》,个中,尚有41款APP存在违规网络、利用用户个人信息、不合理索取用户权限、为用户账号注销设置障碍等问题。

而在这一批存在问题的运用软件名单中,QQ、新浪体育、搜狐新闻、36氪、闪送、出发点直播、大家视频等一众有名APP均“榜上有名”。

QQ、新浪体育、小米金融、搜狐新闻等App赫然在列

双刃AI

要用要防

近年来随着信息技能、AI人工智能技能等高新技能的进步与遍及,伴之而来的,则是个人信息透露及与之相伴的安全风险提升。

对此,上海市经建状师事务所主任应慧鹏状师认为:

AI技能本身并没有“原罪”,其作为一种新兴技能,得到了社会的普遍关注,但AI技能如果在不法分子手中不当利用可能引发的风险也值得我们的关注。

对付能够造福社会发展、人文进步的AI技能应该得到支持与鼓励,但部分AI技能却在不法分子手中化身成为杀人不见血的利剑,干系监管部门对付此类技能应该依法予以严格地监管,对付违法犯罪的行为要予以严厉地惩办。

在此大背景下,部分不法之徒利用AI人工智能技能、诱骗手腕不断翻新,我们除了呼吁国家和政府加大对付此类案件的打击力度外,个人该如何预防此类风险呢?

首先,AI人工智能技能诱骗的核心源头在于个人信息、隐私的透露,不法分子通过前辈的技能获取到个人的语音、照片、账号等信息后,便可以以此为切入口对受害人进行精准诱骗。
为了尽可能避免此类风险,我们在日常生活中一定要对自己的个人信息做好充分的保护事情,特殊是在公共社交平台上不轻易发布自己的隐私信息。

其次,就目前AI人工智能技能诱骗的技能而言,它模拟出的声音、脸庞与真人并不能完备100%同等。
在我们收到哀求转账时,一定通过电话、视频等办法确认对方是否为本人。
在不能确定真实身份时,可将到账韶光设定为“12小时到账”或“24小时到账”,预留处理韶光。

末了,不论是人工智能技能诱骗还是其他形式的诱骗,其紧张受害者都是老年人、缺少社会履历的年轻人等。
对付我们身边这些受害风险较高的群体,要与其加强沟通、及时做好宣扬戒备事情。

帮侬忙事情室

策划 | 钱俊毅

笔墨 | 徐一驰

拍照 | 徐一驰

编辑 | 蒋一俭 姚储杰