例如，“造谣公司用AI一天写谣言7000篇”的话题热度很高。据警方调查，这家MCN机构通过具有语音交互功能的AI软件天生虚假文章，再上传到多个网络平台，最高峰一天能天生4000至7000篇。其炮制的谣言，模拟新闻风格，包含了韶光、地点等关键信息，还配发了所谓的现场图片，极具迷惑性。据该机构实际掌握人供述，天生这些文章，紧张是想让自己运营的账号关注点赞量更高，从中赚取流量。经初步估算，其每天的收入在1万元以上。
再例如，“男子用AI假造学生同事近7000张裸照”的话题，也冲上了热搜。犯罪嫌疑人白某某，原来是一家互联网公司的技能员，他用AI“一键去衣”技能假造淫秽图片，每张1.5元卖出。图片涉及浩瀚女性，包括学生、西席等。目前白某某已被提起公诉。
近两年，AI加速渗入日常生活、赋能各行各业，成为引领科技革命和家当变革的主要驱动力量。但AI作为一种新技能所带来的不愿定性，也给道德伦理、社会管理等带来新的寻衅。
上述案例中已经涌现的各类苗头，应该引起我们的当心。
一样平常逻辑认为，技能本身是中性的，它的好坏取决于利用者的意图和行为。但对付AI的飞速发展，我们仍需高度关注其本身可能带来的闻所未闻、出乎猜想的各种新风险。如何担保AI在安全的笼子里“为我所用”，这对我们是一个持久的寻衅。