谷歌AI正在毁掉落互联网

这极具讽刺意味，由于倘若互联网真的在被GenAI所荼毒，谷歌自己也「功不可没」——它是天下上最大的构建、支配和推广GenAI的公司之一。

广为人知的是，其之前在搜索页面推出的AI概述功能，居然涌现了「披萨上涂胶水」「吃石头」之类令人啼笑皆非的离谱建议，后来谷歌不得不手动删除这些缺点信息。

这篇论文由谷歌人工智能研究实验室DeepMind、安全智囊团Jigsaw和慈善机构Google.org的研究职员共同撰写，他们深入调查了关于天生式人工智能的研究报告，以及约200篇关于天生式人工智能滥用的新闻宣布，对天生式AI工具被滥用的不同办法进行了分类。

论文地址：https://arxiv.org/abs/2406.13843

终极得出结论：在现实天下的滥用案例中，修改人类肖像和假造证据是最普遍的。
这么做的意图也很明确，无非是为了影响"大众舆论、诱骗，或牟取利益。

奥特曼和马斯克都曾经警告过AGI可能会带来「生存性风险」，但谷歌这次的研究重点是天生式人工智能。

天生式人工智能的风险虽然还没有上升到「威胁生存」的地步，但是却更加切近亲近——这是当下正在发生的事情，而且未来可能会变得更糟。

由于这种技能让任何人都可以轻松地天生文本、音频、图像和视频，互联网上充斥着假造或修改的人工智能天生的内容，「真实与虚假之间的界线被模糊掉了」。

「虚假信息炮制机」是GenAI的宿命？

研究职员创造，大多数GenAI滥用案例都是对系统的正常利用，并没有「越狱」行为，这类「常规操作」占了9成。

正如研究职员在论文后面所阐明的那样，GenAI的广泛可用性、可访问性和超现实性，使得层出不穷的、较低级别的滥用形式成为可能——天生虚假信息的本钱实在是太低了！

阅读完这篇论文之后，你可能会情不自禁产生这样的感想熏染：人们并没有滥用GenAI，只不过是按照其产品设计正常利用而已。

人们利用天生式人工智能来制作大量虚假内容，是由于它本来就非常善于完成这项任务。

很多虚假内容每每既没有明显的恶意，也没有明确违反这些工具的内容政策或做事条款，但其潜在的危害是巨大的。

这一不雅观察结果与404 Media之前的宣布不谋而合。

那些利用人工智能伪装他人、扩大不良内容的规模和传播范围，或制作未经赞许的私密图片（nonconsensual intimate images，NCII）的人，大多并没有入侵或操纵他们正在利用的人工智能天生工具，他们是在许可的范围内利用这些工具。

很大略就能举出2个例子：

AI工具的「围栏」可以用一些提示奥妙避过，没有什么能阻挡用户利用ElevenLabs的人工智能语音克隆工具高度逼真地模拟出同事或明星的声音。

Civitai用户可以创建人工智能天生的名人图像，虽然该平台有禁止NCII的政策，但同样没有什么能阻挡用户在自己的机器上利用GitHub上开源的工具（如 Automatic1111 或 ComfyUI）来天生 NCII。

斯嘉丽·约翰逊的头像是DeepFake重灾区

将这些AI天生的内容发到Facebook可能违反了平台的政策，但天生这个行为本身并没有违反他们所利用的人工智能图片天生器的政策。

由于谷歌的研究素材大量来自于媒体宣布，这就带来了一个问题：这是否会让研究结论带有媒体的偏见？毕竟作为探照灯的媒体，在选题和宣布上有自己的倾向。

那些危言耸听的事宜更随意马虎被宣布，这可能会导致数据集倾向特定类型的滥用。

404 Media对此做出了回应：虽然媒体确实只能宣布它所能证明的事宜，但是可以确定的一点是，还有大量的我们尚未意识到的天生式人工智能的滥用没有被宣布。

即便是上文提到的用AI天生名人色情图片的情形，被媒体大量戳穿，但仍旧存在宣布不敷的问题。

首先是由于这一话题仍是禁忌，有很多出版物不愿宣布。

其次是由于媒体只能捕捉到个例，无法始终关注事宜的整体和后续，404 Media的一名编辑写道：

在我联系Patreon官方作出回应（之后发言人关闭了他的账户）之前，我写过一篇宣布，关于一个用户在Patreon上通过 NCII 盈利，他制作了53190张未经赞许的名人图片。
那篇宣布中还提到了其余两名NCII制作者，之后我又创造了其他人。
泰勒·斯威夫特在推特上疯传的人工智能天生的裸体图片便是在Telegram和4chan社区首次分享的，在一月份那篇宣布爆出前后，这些社区都很生动，从那往后，他们每天都在发布NCII。
我和其他不会对每一张图片和创作者都进行宣布，由于如果这样做，我们就没有韶光做其他事情了。

当虚假信息泛滥，甩锅给AI变得很随意马虎

让我们做一个推演，当互联网上充斥着人工智能天生的内容，会发生什么？

最直接的后果是，互联网上的混乱状况会对人们辨别真假的能力带来巨大的磨练，我们将陷入一种常常性的疑惑，「这是真的吗」？

在互联网刚刚涌现的时期，盛行的一句话是，「你不知道网线那头是人是狗」，现在这种趋势愈演愈烈了，人们被虚假的人工智能天生内容所淹没，越来越疲于应对。

如果不加以办理，人工智能天生的内容对公开数据的污染还可能会阻碍信息检索，扭曲对社会政治现实或科学共识的集体理解。

而且，这可能会成为一些有名人物的「挡箭牌」，在某些情形下，他们能够将对自己不利的证听说明为人工智能天生的，轻巧地将举证的任务转移出去。

对付天生式AI所带来的虚假内容的泛滥，谷歌起到了推波助澜的浸染，乃至可以说是「始作俑者」也不为过，多年前射出的子弹，今日终于击中了自己的眉心。

参考资料：

https://arxiv.org/abs/2406.13843

https://futurism.com/the-byte/google-researchers-paper-ai-internet