·更高效的方法是用AI对抗AI。
OpenAI宣告将推出一款工具,用于检测由AI图像天生器DALL-E 3创建的图像。
微软开拓了一种身份验证工具,可以剖析照片或视频,并对其是否被操纵给出评分。

天生式人工智能工具的兴起令欺骗性图片、视频和音频激增,如何识别AI天生的深度假造图像?

像文生图工具DALL-E、Midjourney和文生视频工具Sora,只须要输入一个要求,系统就会输出图像和视频,深度假造变得越来越随意马虎,人们也越来越难以分辨真假。
这些假图像可能看起来无害,但可以用来诱骗、操纵选举等。
例如今年4月印度大选期间,两位宝莱坞演员批评印度总理莫迪的假视频就在网上疯传。

如何识别深度假造?美联社给出了几个方法。
在深度假造早期,技能并不完美,常常会留下操纵迹象,例如照片中有6个手指的手、眼镜镜片形状不同等明显缺点。
但随着AI的进步,这种不雅观察变得困难。
咨询公司Latent Space Advisory创始人亨利·艾德尔(Henry Ajder)说,一些广为流传的建议,比如在深度假造视频中探求人们不自然的眨眼模式不再成立,不过仍有一些迹象可以探求。
一些人工智能深度假造照片尤其是人物照片有一种电子光泽、“一种美学上的平滑效果”让皮肤看起来“非常光滑”。
不过,艾德尔也表示,创造性的提示有时可以肃清这种光滑效果以及其他AI操纵的迹象。

若何识别AI生成的深度假造图像

信也科技算法科学家吕强对澎湃科技(www.thepaper.cn)表示,要通过肉眼分辨图片是否为合成,可以重点不雅观察图片中的细节,例如不雅观察图片中的手指数量是否正常、眼神是否怪异、发丝看起来是否真实等,如果一个眼睛看前、一个眼睛看左就有问题。
其余,天生的照片常日在光影上存在瑕疵,并缺少照片基本参数,例如曝光等。

检讨阴影和光芒的同等性是识别办法之一,常日来讲,拍摄工具的焦点清晰,看起来维妙维肖,但背景中的元素可能没有那么逼真或被润色过。
如果图像中的公众人物做了一些看起来“夸年夜、不现实或不符合性情”的事,这也可能是深度假造。
此外,换脸是常见的深度假造方法之一,据美联社宣布,可以仔细不雅观察脸部边缘,面部肤色与头部或身体的其他部位是否匹配。
如果疑惑一个说话视频是深度假造,可以不雅观察嘴唇动作是否与音频完美匹配。
艾德尔建议不雅观察牙齿是清晰还是模糊、与现实生活中的样子是否同等。
网络安全公司诺顿表示,算法可能还不足繁芜,无法天生单个牙齿,因此缺少单个牙齿的轮廓可能是辨别深度假造的一个线索。

不过,人工智能发展迅速,大模型正在接管演习,以生产质量越来越高、毛病越来越少的内容,以是不能担保这些建议在一年后仍旧有效。
更高效的方法是用AI对抗AI。
吕强表示,利用AI的办法识别,首先须要构建一个包括真图和假图的演习数据集,再利用大模型学习两类图片的不同特色,例如用AI学习图片曝光细节,“一张很灰暗的图片涌现了一张整体偏白的人脸,这张图片可能便是经由人脸更换的。
但有些人对光芒不敏感,人眼可能就识别不出来。
”昔时夜模型拥有了各种细节的识别能力后,“把这些能力汇总起来,就构成了一个真假图片的辨别矩阵,然后对矩阵结果打分,终极给出来一个真假图片的评判结果。
”不过,他也表示,利用AI识别天生图片,算法繁芜度并非难点,寻衅在数据。
“第一可能没有那么多假样本,第二要想让假样本覆盖到很多领域也有寻衅。

目前,微软开拓了一种身份验证工具,可以剖析照片或视频,并对其是否被操纵给出评分。
OpenAI最近也宣告将推出一款工具,用于检测由AI图像天生器DALL-E 3创建的图像。
OpenAI表示,在内部测试中,该工具在98%的韶光内精确识别了DALL-E 3天生的图像,并且可以最小的影响处理常见修正,如压缩、裁剪和饱和度变革。
此外,OpenAI还加入了一个包括谷歌、微软和Adobe在内的行业组织,并操持供应一个有助于追踪不同媒体来源的标准。
芯片制造商英特尔的FakeCatcher则利用算法剖析图像像向来确定真假。
据CNN今年2月宣布,Meta也在努力识别和标记共享在其平台上的由第三方工具创建的AI天生图像。

在海内,商汤数字水印技能可将特定信息嵌入到多模态的数字载体中,支持图像、视频、音频、文本等多模态数字载体,可以暗藏嵌入水印信息,不影响原始内容质量和用户感知,同时抵御攻击,以免被删除或修正。
商汤科技表示,数字水印技能可用于版权保护、防伪溯源等场景,在裁剪、压缩平分歧程度滋扰下,能担保超过99%的水印提取精度,且不会丢失画质精度而影响数据质量。