近日,《自然》(Nature)杂志宣布一项最新研究称,研究职员正在利用天文学技能来帮助识别“AI换脸”。该方法的灵感来自于天文学中勘察迢遥星系的干系实践,通过丈量人眼如何反射光芒,从而揭示出图像处理的明显迹象。
7月15日,英国赫尔大学数据科学、人工智能与建模中央主任凯文·皮姆布莱特(Kevin Pimbblet)在英国皇家天文学会全国天文学会议上首次表露了这项研究的进程。“这项研究供应了一种潜在的方法,或容许以增加一系列测试,帮助人们来判断图像的真假。”他进一步阐明说,真实的照片该当具有“同等的物理特性”,也便是说,人在左眼中看到的反射该当与在右眼中看到的反射非常相似才对,只管不一定完备相同。由于这些差异非常奇妙,因此研究职员须要乞助于专门用于剖析天文图像中光芒的技能手段。
该研究目前尚未揭橥。其数据支撑来自英国赫尔大学数据科学家阿德朱莫克·奥沃拉比(Adejumoke Owolabi)的硕士论文。奥沃拉比曾从高质量人脸图像数据集“Flickr-Faces-HQ”中获取真实图像,并利用图像天生器天生了一些假脸。然后,奥沃拉比利用两种天文丈量办法分别剖析了图像中光源在人眼中的反射情形。个中利用到了CAS系统和基尼指数(Gini Index),前者量化了物体光分布的集中度、不对称性和平滑度,曾帮助天文学家描述银河外恒星的光;后者则衡量出星系图像中光分布的不屈均性。
通过比较人眼反射图,奥沃拉比称在图像真假识别中大约能保持70%的精确率。终极,研究职员创造,该方面基尼指数比CAS系统更实用。
深度假造图片中的眼睛(左)反射图案不一致(右)。图片来源:阿德朱莫克·奥沃拉比的硕士论文内页。
加州大学圣克鲁斯分校的天体物理学家布兰特·罗伯逊(Brant Robertson)肯定了这项研究的创造。但他同时提醒说:“如果你能打算出一个量化深度假造图像真实程度的指标,那么你也可以通过优化该指标来演习人工智能模型,使其制作出更好的深度假造作品。”
不过,该研究创造也在学界内部遭到质疑。英国南安普顿大学人工智能研究员黄志武(音译,Zhiwu Huang)表示,他在研究中并未创造深度假造图像在人眼中的光芒差异。但他表示:“虽然利用人眼反射是否同等赞助图像识别的技能尚未广泛运用,但这种技能可能有助于剖析图像不同部分的光芒、阴影和反命中的细微非常……检测光的物理特性的不一致可能会补充现有的方法,并提高深度假造检测的整体准确性。”
“这不是灵丹灵药,”皮姆布莱特明确表示。但他也提出这种方法为检测供应了一种基准和攻略。
参考链接:
1. AI‘deepfake’ faces detected using astronomy methods
https://www.nature.com/articles/d41586-024-02364-y
2. Astronomers Discover Technique to Detect AI Fraud Using Galaxy-Measuring Tools
https://www.townoflaronge.ca/astronomers-discover-technique-to-detect-ai-fraud-using-galaxy-measuring-tools
编译/申璐
编辑/罗东
校正/柳宝庆