不足为奇。今年6月，一批匿名人士向OpenAI及其投资方微软公司发起集体诉讼，责怪被告方从互联网上盗取和挪用了大量个人数据和信息来演习AI工具。起诉书声称“OpenAI在用户不知情的情形下，利用这些‘盗取’来的信息”。
变革浪潮下，大模型面临隐私和数据风险，引发网友抵制。
制图由腾讯混元大模型天生。
事宜：
拿用户文档演习AI？
WPS道歉再度遭怼
近日有网友创造，WPS在其“隐私政策”中提到，“我们将对您主动上传的文档材料，在采纳脱敏处理后作为AI演习的根本材料利用”。11月18日，WPS官方微博做出回应，在向用户报歉的同时，承诺用户文档不会被用于AI演习目的。
此前，WPS发布AI公测，声称可以帮助用户润色、续写、扩充文档，写表格公式，天生PPT等，有助于提升用户学习、办公效率。但是，WPS在隐私政策方面的越界行为，违反采集数据信息的“最小化原则”，涉嫌不当获取用户隐私信息。在广大用户和社会舆论的质疑下，WPS被迫公开报歉，并修正干系条款。
根据声明，WPS已更新《WPS隐私政策》，去除了随意马虎引起误解的表述，并表示所有用户文档不会被用于任何AI演习目的，也不会在未经用户赞许的情形下用于任何场景。此前WPS《隐私政策》则这样说：“我们将对您主动上传的文档材料，在采纳脱敏处理后作为AI演习的根本材料利用。”
11月16日，金山办公宣告旗下具备大措辞模型能力的人工智能办公运用WPS AI开启公测，AI功能面向全体用户陆续开放体验。据宣布，公测前一天，WPS更新了隐私政策。更新版提到，“为提升您利用我们供应的包括但不限于在线文档美化、在线PPT美化、在线表格美化的AI功能的准确性，我们将对您主动上传的文档材料，在采纳脱敏处理后作为AI演习的根本材料利用，同时请您放心，我们将采纳严格的安全方法和技能手段对该资料进行去标识化处理，以降落其他组织或个人通过去标识化处理后的个人信息识别到您的风险、保护您的个人信息”。
只管金山办公最新版隐私政策中，已搜索不到上述内容，但用户彷佛并不放心。“训不演习用户也无法知道”“这可不是随意马虎引起误解的描述”……用户的质疑集中在以上两点。对付“不存在表述有歧义”的用户质疑，金山办公干系人士向北京商报强调，“所有用户文档，不会用于任何AI演习的目的”。
存侵害用户权柄问题被通报
用户百万字小说被WPS锁文
此前，WPS也曾发生过与用户隐私干系的麻烦事。2020年9月，广东省通信管理局表露的一批存在侵害用户权柄问题的App中就有WPS Office，WPS Office 12.6.1版本涉及未征得用户赞许前就开始网络个人信息或打开可网络个人信息的权限等多个问题。
隐私也不是WPS近年来与用户的唯一抵牾。2022年7月中旬，WPS因文件被锁事宜登上社交平台热搜。
根据WPS当时的说法，“一位用户分享的在线文档链接涉嫌违规，我们依法禁止了他人访问该链接，此事被谣传为WPS删除用户本地文件”。越日，“WPS文件被锁”当事人却向媒体透露：5月自己100多万字的小说文稿当时确实被WPS封锁，无法打开利用，但从未说过本地文件被删，且在与WPS沟通过程中，WPS方曾承认是审核系统误判了敏感词，并承诺将加强系统检测漏洞。
一来一回后，WPS干系人士对当事人最新发声未予回应。多位网友则分享了自己曾被WPS锁文的经历。
用户也常常因会员做事问题吐糟WPS。截至发稿，在黑猫投诉平台输入关键词“WPS”，会涌现超9000条投诉，大部分与会员做事有关。
2023年3月，曝光的WPS付费会员权柄不明的情形也依然存在。目前WPS向用户供应超级会员Pro、超级会员两种会员做事，个中超级会员Pro享受超级会员权柄、文库套餐、个人云空间1T、简历做事套餐、翻译500页/月、模板下载800次/月。
实际上，除了超级会员Pro、超级会员做事，WPS用户还可能碰着须要额外付费的增值做事——“海报权柄”。进入WPS稻壳频道的海报页面，亮色的开通海报权柄入口就涌如今首页显眼处。这一权柄也包括模板下载、版权图片、字体等。提到此情形，WPS干系人士保持沉默。
案例：
X/Twitter更新隐私政策
马斯克要拿用户数据喂AI
今年9月，X（原名Twitter，推特）溘然更新了隐私政策，在2.1条例中，X明确写道：“我们可能会利用网络到的信息和公开可用的信息来帮助演习我们的机器学习或人工智能模型。”这意味着一旦在X上发帖创作内容，就意味着赞许了马斯克可以将内容拿去喂AI。
除了这一条可拿用户数据免费演习AI模型的条例外，新版隐私政策还提出：将从9月29日开始网络用户的生物识别数据、事情和教诲信息。如果用户赞许，X会出于安全等目的网络用户的生物识别信息，让账号更加安全。
要知道，在马斯克前不久还威胁微软，要起诉它用X的数据演习AI。更是在ChatGPT刚上线一个月，就违背了收购推特之前签署的条约，关闭了OpenAI对Twitter“firehose”数据流的访问权限。
今年6月，一批匿名人士向OpenAI及其投资方微软公司发起集体诉讼，责怪被告方从互联网上盗取和挪用了大量个人数据和信息来演习AI工具。起诉书声称“OpenAI在用户不知情的情形下，利用这些‘盗取’来的信息”。
再倒回前两个月，“AI换脸”诱骗曾引起很大谈论，据包头警方，骗子通过智能AI换脸和拟声技能，佯装好友对福州某科技公法律人代表履行了诱骗，10分钟内其被骗430万元。
制图由腾讯混元大模型天生。
风险：
AI“既帮助年夜大好人也帮助坏人”
大模型面临隐私和数据风险
大模型背后的网络安全
在火热的AIGC浪潮下，技能带来变革的同时，大模型面临隐私和数据风险及其惨淡面也越来越多被关注。
“人工智能就犹如双面人，既帮助年夜大好人，也帮助坏人。善用AI可以创造很好的功能，但如果不能做好安全管理，AI可以带来危险。”在C3安全大会上，英普华亚太及日本区技能副总裁周达伟表示，在过去很看重的是远程安全和运用安全，但在大模型的家当互联网的时期，会更看重数据安全。
“去年年底到今年年初，天生式AI带来了灯塔式的指引，从国家到所有的企业都在拥抱这次变革。”亚信安全首席研发官吴湘宁在大会上表示，大家都希望通过人工智能、大数据、区块链、物联网等技能来改变现状。
但AI系统越来越大，本身的安全便是一个关键。亚信安全首席安全官徐业礼表示，“这里面涉及到AI投毒，模型被修改，包括AI系统本身有边界防护端点防护的能力。”AI可以做坏事，也可能天生一些误导的信息，此外大量利用AI，尤其是境外的AI可能导致数据的透露，这都是非常大的风险和问题。
亚信安全终端安全产品总经理汪晨认为，一方面，AI技能可以帮助甄别出病毒软件的DNA，纵然他们进行了伪装，也能识别出其是黑是白；但另一方面，由于AI须要通过大量数据演习才能得到能力，如果用黑客污染过的数据进行演习，演习出的模型就会存在漏洞。如何确保演习数据的准确率和精准度，是目前面临的新寻衅。
对付最近兴起的AI换脸诱骗，徐业礼对第一财经表示，这属于较为特殊的网络安全问题，绝大部分针对个人发生，换成高管的照片或者仿照高管的声音录制一段语音发给员工，哀求汇款转账，这些情形防不胜防，且由于AIGC的涌现，诱骗履行起来越来越大略，本钱极低。
徐业礼认为，对付一个管理较好的公司，这类诱骗绝大部分情形下不会发生，而紧张发生在安全意识不强、汇款等流程极不完善的小规模企业。对付亚信这样的网络安全公司来说，一样平常也能通过邮件和公司的系统监测到商业诱骗邮件，对诱骗网站和钓鱼网站进行识别检测。
AI一贯在安全领域有所运用。
不过，如ChatGPT这样的大模型是一个革命性的改变。ChatGPT事实上已经可以理解为过了图灵测试的终极阶段，达到了一样平常人的智能，如今AI行业也从1.0时期到了2.0时期，AI的功能越来越丰富，天生式AI能够模拟人、复制安全专家的能力，加速系统的自动化运营。
吴湘宁先容，在过去安全行业已经可以通过自然措辞的识别，通过报警、日志创造关键的威胁点，形成威胁图谱，但做威胁图谱的解读、写威胁剖析报告，还须要专门的运维职员或安全专家，但本日随着大模型技能的创造，可以更随意马虎把专家的知识和大模型进行结合，从而自动天生报告。
AI演习面临信息风险
在演习大模型中，作为必备要素的数据还面临着信息安全、来源确权等方面的寻衅。
除了OpenAI被起诉利用用户数据进行用户画像或广告推广等商业用场，此前三星员工在与ChatGPT谈天过程中也发生过信息泄露事件。
三星有员工哀求谈天机器人检讨敏感数据库源代码是否有缺点，此外还有员工哀求ChatGPT帮助其优化代码，以及将会议记录输入ChatGPT并哀求它天生会议记录。
腾讯安全天御研发工程师周维聪对表示，在三星的案例中信息已存在风险，大模型供应方理应在该环节具备审核拦截能力，提示用户该环节中存在严重的透露隐私风险。
周维聪表示，对付企业方，首先在技能层面可以对用户隐私信息进行相应的提取。其余，如果用户输入的内容涉及隐私干系信息，技能侧也可以鉴别出来，不会将这部分数据用于模型演习或商业产品的能力打造上。
制图由腾讯混元大模型天生。
说法：
当“安全”成为稀缺品，AI演习要守住底线
办公软件WPS在其隐私政策中的表述被质疑滥用用户隐私，引发关注。
类似征象不是孤例，今年早些时候，一款基于天生式人工智能的拍照软件“妙鸭相机”，也因存在滥用用户信息的嫌疑而引发用户批评。如今，随着以大措辞模型为代表的天生式人工智能技能的快速发展，干系运用层出不穷。一边是“嗷嗷待大量数据以哺”的人工智能，另一边是加倍重视个人信息保护的用户，如何善用数据，磨练全社会数据管理的能力和成效，事关万千网民的切身利益。
必须将保护用户隐私和信息安全置于更主要的位置。不少人经历过：生活中说了句话、搜索了个关键词、开了一下子“位置”，手机里的各种APP就会精准推送广告、“熟习的人”，自己仿佛瞬间成了透明人。大数据时期，我们加倍真切感想熏染到，日常生活的“智能”越来越突出，“安全”有时却成为稀缺品。
越是统统都可以数字化、被网络、能剖析，越要划出底线，筑起信息安全的堤坝，给用户选择乃至说“不”的权利。天生式人工智能也不例外，其发展初衷便是为了造福民众。倘若在一开始的数据网络和演习阶段就滥用用户隐私，岂非与目的背道而驰？今年7月，我国出台《天生式人工智能做事管理暂行办法》，明确“不得侵害他人肖像权、名誉权、名誉权、隐私权和个人信息权柄”，强调开展演习数据处理活动“涉及个人信息的，应该取得个人赞许或者符合法律、行政法规规定的其他环境”。原则已经明确，红线已经划出，须要干系从业者严格遵守、自觉践行。
当然，严格保护并不虞味着“一刀切”地禁止。有人把数据比作信息时期的“石油”，把算力比作最主要的“根本举动步伐”，足以解释其主要性。特殊是对付天生式人工智能来说，海量的数据“投喂”，才能培养出更聪明、更前辈的版本。特殊是，在网络天下，中文数据特殊是高质量中文数据，与英文等其它措辞的数据比较，仍有差距，这可能成为发展天生式人工智能的一个先天劣势。也只有在依法、科学的条件下，充分挖掘各种中文数据资源的代价，补短板、锻长板，才能确保我国在天生式人工智能等前沿领域，无论是研究还是运用层面，取得领先。
发展和安全，从来不一定是抵牾的、对立的。当前，环球不少科学家、企业家都呼吁在天生式人工智能领域“慢下来”，这不是为了结束技能进步，而且希望与之干系的隐私保护、科学伦理、法律制度等能够尽快“遇上来”。在我国，更好统筹发展和安全，一贯是处理这类问题的一个基本遵照。无论是监管者还是从业者，更好把握发展与安全的辩证法，平衡好各方面利益，才能推动天生式人工智能康健可持续发展。相信在人类聪慧的把控下，我们一定能用好技能这把“双刃剑”，趋利避害，让“甘蔗”实现“两头甜”。
整合：黄亚岚