·更高效的方法是用AI对抗AI。OpenAI宣告将推出一款工具，用于检测由AI图像天生器DALL-E 3创建的图像。微软开拓了一种身份验证工具，可以剖析照片或视频，并对其是否被操纵给出评分。
天生式人工智能工具的兴起令欺骗性图片、视频和音频激增，如何识别AI天生的深度假造图像？
像文生图工具DALL-E、Midjourney和文生视频工具Sora，只须要输入一个要求，系统就会输出图像和视频，深度假造变得越来越随意马虎，人们也越来越难以分辨真假。这些假图像可能看起来无害，但可以用来诱骗、操纵选举等。例如今年4月印度大选期间，两位宝莱坞演员批评印度总理莫迪的假视频就在网上疯传。
如何识别深度假造？美联社给出了几个方法。在深度假造早期，技能并不完美，常常会留下操纵迹象，例如照片中有6个手指的手、眼镜镜片形状不同等明显缺点。但随着AI的进步，这种不雅观察变得困难。咨询公司Latent Space Advisory创始人亨利·艾德尔（Henry Ajder）说，一些广为流传的建议，比如在深度假造视频中探求人们不自然的眨眼模式不再成立，不过仍有一些迹象可以探求。一些人工智能深度假造照片尤其是人物照片有一种电子光泽、“一种美学上的平滑效果”让皮肤看起来“非常光滑”。不过，艾德尔也表示，创造性的提示有时可以肃清这种光滑效果以及其他AI操纵的迹象。
信也科技算法科学家吕强对澎湃科技（www.thepaper.cn）表示，要通过肉眼分辨图片是否为合成，可以重点不雅观察图片中的细节，例如不雅观察图片中的手指数量是否正常、眼神是否怪异、发丝看起来是否真实等，如果一个眼睛看前、一个眼睛看左就有问题。其余，天生的照片常日在光影上存在瑕疵，并缺少照片基本参数，例如曝光等。
检讨阴影和光芒的同等性是识别办法之一，常日来讲，拍摄工具的焦点清晰，看起来维妙维肖，但背景中的元素可能没有那么逼真或被润色过。如果图像中的公众人物做了一些看起来“夸年夜、不现实或不符合性情”的事，这也可能是深度假造。此外，换脸是常见的深度假造方法之一，据美联社宣布，可以仔细不雅观察脸部边缘，面部肤色与头部或身体的其他部位是否匹配。如果疑惑一个说话视频是深度假造，可以不雅观察嘴唇动作是否与音频完美匹配。艾德尔建议不雅观察牙齿是清晰还是模糊、与现实生活中的样子是否同等。网络安全公司诺顿表示，算法可能还不足繁芜，无法天生单个牙齿，因此缺少单个牙齿的轮廓可能是辨别深度假造的一个线索。
不过，人工智能发展迅速，大模型正在接管演习，以生产质量越来越高、毛病越来越少的内容，以是不能担保这些建议在一年后仍旧有效。更高效的方法是用AI对抗AI。吕强表示，利用AI的办法识别，首先须要构建一个包括真图和假图的演习数据集，再利用大模型学习两类图片的不同特色，例如用AI学习图片曝光细节，“一张很灰暗的图片涌现了一张整体偏白的人脸，这张图片可能便是经由人脸更换的。但有些人对光芒不敏感，人眼可能就识别不出来。”昔时夜模型拥有了各种细节的识别能力后，“把这些能力汇总起来，就构成了一个真假图片的辨别矩阵，然后对矩阵结果打分，终极给出来一个真假图片的评判结果。”不过，他也表示，利用AI识别天生图片，算法繁芜度并非难点，寻衅在数据。“第一可能没有那么多假样本，第二要想让假样本覆盖到很多领域也有寻衅。”
目前，微软开拓了一种身份验证工具，可以剖析照片或视频，并对其是否被操纵给出评分。OpenAI最近也宣告将推出一款工具，用于检测由AI图像天生器DALL-E 3创建的图像。OpenAI表示，在内部测试中，该工具在98%的韶光内精确识别了DALL-E 3天生的图像，并且可以最小的影响处理常见修正，如压缩、裁剪和饱和度变革。此外，OpenAI还加入了一个包括谷歌、微软和Adobe在内的行业组织，并操持供应一个有助于追踪不同媒体来源的标准。芯片制造商英特尔的FakeCatcher则利用算法剖析图像像向来确定真假。据CNN今年2月宣布，Meta也在努力识别和标记共享在其平台上的由第三方工具创建的AI天生图像。
在海内，商汤数字水印技能可将特定信息嵌入到多模态的数字载体中，支持图像、视频、音频、文本等多模态数字载体，可以暗藏嵌入水印信息，不影响原始内容质量和用户感知，同时抵御攻击，以免被删除或修正。商汤科技表示，数字水印技能可用于版权保护、防伪溯源等场景，在裁剪、压缩平分歧程度滋扰下，能担保超过99%的水印提取精度，且不会丢失画质精度而影响数据质量。