但很显然，并不是所有人在拿到如此强大的AI工具时都会想着如何提高生产力。比如在2月16日，一则利用ChatGPT杭州市政府通知布告的新闻稿就被推上了热搜。
2023年2月16日，杭州某小区一位业主就将利用ChatGPT仿写的“市政府新闻稿”分享到了业主群中。该新闻稿模拟了杭州市政府的措辞习气，宣告“杭州即将取消限行”。只管该业主称自己是在开玩笑，且在网传的谈天记录中该业主“直播”了利用ChatGPT天生该的全过程，以表明该为假造的新闻稿。但依旧有业主将演示视频中的内容信以为真，在分开了高下文的情形下转发至该微信群外，并引起了互联网的“轩然大波”。
图片来源：知乎
由于事宜影响范围较大，当地警方迅速澄清干系“新闻稿”系假造，且对事宜展开调查，干系调查结果还须要后续处理。
不过话又说回来，只管当事人并无恶意，但这次事宜依旧暴露出了AI时期的“阴郁面”，当事人“没有恶意”就已经闹出了这么大麻烦，假如ChatGPT这样的工具落入不怀美意的不法分子手中，那我们该怎么办。
假如有人想用AI工具害我呢？
欢迎来到AI技能的“阴郁面”
虽然刚刚的说法有些骇人听闻，以ChatGPT为例，就小雷这段韶光的体验来说，ChatGPT网站稳定性还不敷以支撑电信诱骗。但就像“技能无罪”背后的潜台词一样，统统工具都有自己的两面性，石器时期的“锋利石头”是这个道理，互联网时期的AI工具同样是这个道理。
以刚刚先容到的AI措辞模型ChatGPT为例，利用ChatGPT“作歹”最大略的办法自然是用它来模拟他人的措辞习气，以在互联网上伪装他人。目前，AI可以利用深度学习等技能，通过学习某个人的大量措辞数据，天生与该人措辞风格相似的笔墨。这种技能被称为文本天生或措辞模拟。
图片来源：Veer
举个例子，OpenAI曾经开拓了一个名为“GPT-3”的模型，它可以模拟险些任何人的措辞风格，只需输入一些该人的笔墨或样本即可。该模型已经运用于各种领域，如自动回答电子邮件、自动天生新闻宣布等。
而利用措辞演习模型模拟他人措辞习气，这只是利用AI“作歹”的开始。借助AI语音模型，我们可以从一段音频中提取出具有某个人音色特点的声音素材，再联合措辞演习模型合成出具有某人音色，用词习气的音频文件。再合营上AI换脸的视频，用AI“假造一个人”从未如此大略。
为什么AI谣言传播如此迅速？
话题回到刚刚提到过的“AI谣言”上，这次ChatGPT“替市政府取消限行”之以是会有如此高的传播效率，这也和这则谣言本身的特点有关。一样平常来说，谣言传播具有快速、鞭策、匿名、非正式这四个特色：
“快速”很好理解，由于人们更随意马虎相信、传播和分享那些能够引起共鸣、好奇心或恐怖感的信息。“鞭策”的特点虽然没有在这次“新闻稿”中直接表示，但取消限行行为本身就具有“鞭策”他人违反规定的特性。“匿名”也是同样的道理，借助AI工具，谣言的制造者可以有效隐蔽自己的身份。而“非正式渠道传播”的特点也让这些在社交媒体中盛行的谣言无法通过有效的官方渠道验证。
在过去的谣言中，“快速”“鞭策”“非正式”这三个要素非常好知足，但由于谣言的产生难免会暴露制造者自己的措辞习气，因此过去能广泛传播的谣言常日都秉承着“字数越少越好”的特点，毕竟字数越少，谣言制造者自身就越不随意马虎暴露自己的措辞习气，让谣言看起来“更加真实”，同时也更随意马虎传播。
图片来源：Veer
而ChatGPT这类AI写尴尬刁难象改变了谣言的生产模式：
制造者不再须要费尽心思为自己坚持一个“匿名人士”的身份，可以直接通过措辞模型模拟他人的写作习气，直接伪装他人制造、传播谣言。此外，AI工具的涌现让制造者只须要供应谣言的主题或干系信息，然后让AI天生相应的谣言内容。这将大幅降落制造谣言的门槛，也一定会导致带来更多的网络谣言。
那么该如何应对未来由AI制造的谣言呢？解铃还需系铃人，我们也可以用AI反制谣言。
鉴别AI还得靠AI
只管AI可以通过演习来仿照真实人类的写作，并学习、模拟这些样本的措辞特色和风格，但归根结底，AI的写作办法始终与人类不同。比如一些AI工具天生的文本可能会具有一些特色，如语法、用词和表达办法的缺点或不连贯性。这种征象对我们人类来说可能不随意马虎察觉，但对付AI来说，想要分辨一段笔墨是否由AI天生，这并不是不可能的事情。
首先，AI可以利用统计措辞模型来剖析一段笔墨的概率分布。由于AI措辞模型是通过大量的文本数据演习出来的，因此它们能够识别常见的措辞构造和模式。如果一段笔墨的概率分布与常见的人类写作样本不匹配，那么AI就可能判断这段笔墨是由AI天生的。
其次，AI可以通过对一段笔墨的内容进行剖析来判断它是否由AI天生。例如，AI可以识别一些常见的话题、主题和表达办法，并考试测验确定这段笔墨是否符合人类的写作风格和措辞特色。AI还可以利用网络熵剖析一段笔墨的制造、传播办法。如果这段笔墨具有非常的传播路径、速率或者与其他谣言存在相似的传播轨迹，那么AI就有可能分辨出这段笔墨是由AI天生的。
图片来源：Veer
只不过受技能限定，用AI识别AI的成功率还有有待提升。以刚刚提到的统计模型和内容剖析为例，演习一个这样的AI须要大量有AI天生的文本，而由AI天生的文本只会让AI进一步提高自己的写作水平，让AI写作更难分辨。
而针对来自AI的谣言，我们除了提高自己的知识水平、判断和求证能力之外，还须要从法律和社会层面入手。AI开拓者和利用者应该承担起相应的法律和道德任务，加强对AI技能的监管和管理，戒备恶意利用AI措辞工具天生谣言的行为；而政府、学界、媒体和社会组织也该当加强互助，共同打击谣言，促进信息公道和公开，勾引社会积极的舆论环境。
当然了，这统统也离不开你我共同的努力。AI说到底只不过是一种工具，如何利用还得看我们自己。“当心智械危急”，从你我做起，从不用ChatGPT制造谣言做起。