随着天生式AI的爆发，社交媒体上的内容越来越真假难辨。为规范人工智能天生合成内容标识，近日，国家网信办起草的《人工智能天生合成内容标识办法（搜聚见地稿）》（以下简称《办法》），面向社会公开搜聚见地。环绕干系话题，法治网研究院近日约请了南开大学法学院副院长陈兵教授、西南政法大学人工智能法学院院长陈亮教授、华东政法大学国家安全研究院副院长阙天舒教授、中国政法大学数据法治研究院张凌寒教授、《法治日报》状师专家库成员苟博程状师展开了一场深度对谈。
01
法治网研究院：我们把稳到，《办法》哀求， 在文本、图片、音频、视频等运用处景，要对人工智能天生合成内容添加显著的提示标识。普通地讲，便是要给人工智能天生合成内容打上“专属水印”。在您看来，当古人工智能天生合成内容为什么急迫须要添加显著的提示标识？
陈亮：当前，鱼龙殽杂、真假难辨的AI天生内容的激增，引发人们对其透明度、真实性和误导性的关注和忧虑。充斥于各大网络平台的虚假AI天生内容，正成为滋长民事侵权乃至刑事犯罪的温床，也影响了消费者与平台之间的信赖关系，进而阻碍了人工智能家当的良性康健发展。
为AI天生内容添加显著提示标识，提醒消费者干系内容的天生办法，提高消费者的当心性，可以大大降落AI天生内容的欺骗、误导乃至操纵等风险，搭建起平台与受众之间的信赖纽带，从而很好地平衡创新勉励与权利保护之间的紧张关系。
陈兵：自天生式人工智能技能广泛运用以来，大量AI天生内容涌入赛博空间，在丰富网络内容、降落生产本钱、匆匆进制作效率的同时，也引发了大量的数据污染、内容造假、知识产权侵权、利用天生内容进行诱骗、无底线博流量等一系列乱象。
对人工智能天生合成内容添加显著的提示标识，首先，能够给予内容受众区分AI天生合成内容与人类创作内容的能力，保障公众年夜众知情权；其次，有助于压实干系主体任务，戒备虚假信息的传播，营造豁亮清明的网络空间；终极，能够促进人工智能技能的透明度与可信度的提升，确保人工智能实现坚持高质量发展与高水平安全良性互动。
阙天舒：人工智能天生内容亦真亦假、难以辨别，一些深度假造的信息随意马虎以假乱真，滋扰人们的正常判断。
从消费者权柄保护的角度，对人工智能天生内容进行标识是履行产品信息表露责任、保障消费者知情权的详细表示。从知识产权保护的角度，对人工智能天生内容进行标识是缓和天生作品产权归属辩论、促进人工智能创作物市场构建的关键路径。从人工智能管理的角度，对人工智能天生内容进行标识是提升人工智能透明度、增强算法可阐明性的主要办法。
张凌寒：随着天生内容越来越逼真，人们在一样平常社会生活中已经难以辨别其真伪。天生式人工智能可能被用于传播虚假信息、侮辱诋毁、诱骗乃至更严重的违法犯罪活动中。
对人工智能天生合成内容添加标识，一方面提示受众保持谨慎，避免轻信误信和随意转发；另一方面还可用于确认内容来源，便于界界说务范围，是对人工智能监管问责制度的主要补充。
02
法治网研究院：近年来，人工智能天生合成内容得到快速发展，给人们的生产生活带来极大便利和优质体验。与此同时，利用AI履行诱骗、侵权等违法犯罪的数量也在明显增加。您认为，对付人工智能天生合成内容的做事供应者、互联网运用程序分发平台而言，应该如何对照《办法》的干系内容，进一步做好合规事情？
张凌寒：对付内容做事平台，内容标识责任至少包括两个主要方面：一是明确标识所采取的技能方案，确保标识包含《办法》所哀求的各种信息。
二是建立相应的标识识别、核验机制，勾引、敦促用户主动声明上传的天生内容并利用平台供应的标识工具，还应对用户上传的内容及其标识情形进行核验，确保天生内容始终处于被标识状态。运用程序分发平台则须要制订核验做事供应者标识功能的规程，确保程序上线时标识功能的正常运行。
苟博程：面对《办法》即将颁布履行的现实，做事供应者和互联网运用程序分发平台应积极支配合规方法。
首先，完善技能手段，确保所有AI天生的文本、图片、音频、视频内容均添加显著的提示标识或“水印”。其次，建立和健全内容审核机制，实时监控和过滤可能存在的违法违规内容。末了，加强用户教诲，提醒用户辨别AI天生内容，戒备潜在风险。同时，积极与监管部门沟通，及时理解温柔应政策变革，确保平台运营合法合规。
03
法治网研究院：目前，《办法》正处于面向社会公开搜聚见地阶段。对付《办法》，您最想提的建媾和见地是什么？
陈兵：《办法》既是对做事供应者自我合规的指引，也是对监管部门供应的监管哀求及监管规则。因此，《办法》对付标注办法的规定应该做到清晰、明确，具有可及性与可操作性。
对付显示标识而言，《办法》第四条虽然对显示标识的运用处景与添加位置进行了明确规定，但目前尚缺少对付标识详细的位置、字形、表达、尺度光阴等详细信息予以详细规定；对付隐性标识而言，数字水印等技能存在技能差异与多平台兼容，这方面《办法》也须要对技能标准与兼容性进行哀求。当然，这个有关技能标准及兼容性，特殊是技能上的可兼容与商业场景下的兼容性还有不同内涵，若想明确在《办法》中规定，客不雅观上也确实存在一定困难。然而，这个问题在推动全体《办法》的实效性上却是非常主要的，必须予以重视。我建议，可以考虑做好转引条款的设计，至少供应下一步办理的预留接口。
陈亮：内容标签每每通过两种路径来降落人工智能可能带来的风险：一是关注天生内容的技能流程，旨在向用户传达特定内容的天生办法，而对天生内容的潜在危害不予置评；二是关注天生内容的潜在危害，而对天生内容的技能流程不予置评。
《办法》更多的是采取第一种办法，从而对天生内容对平台用户或全体社会的潜在影响持不可知论的态度，这无疑加重了用户认知包袱，对用户的认知模式和认知能力提出了一定寻衅。我建议，进一步增加有关天生内容潜在危害的标识，以减轻用户因认知模式和认知能力局限而无法研判AI天生内容潜在影响所带来的决策偏差或决策失落误。
阙天舒：在标识办法上，《办法》区分了隐式标识和显式标识。关于隐式标识，依照《办法》规定，彷佛所有环境下均应添加。我认为这方面有待商榷，应该明确分外情形下无需进行隐式标识的环境。比如，天生来源绝对可靠时，就没必要进行标识。关于显式标识，我认为，针对一些分外领域的人工智能天生场景，不仅要标识“人工智能天生内容”，还要作一些指引性的提示。比如，当天生内容涉及政治、军事、法律、医学、伦理等专业领域时，应该特殊提示做事利用者咨询专业人士见地。
专家简介
陈亮
西南政法大学人工智能法学院院长、教授、博士生导师，中国法学会环境与资源法学研究会常务理事，文化和旅游部法治专家委员会委员
陈兵
南开大学法学院副院长、教授、博士生导师，中国新一代人工智能发展计策研究院特约研究员，中国法学会经济法学研究会常务理事
阙天舒
华东政法大学中国法治计策研究院党总支副布告、副院长，国家安全研究院副院长，教授、博士生导师，专注人工智能时期的国家安全管理、环球数据安全管理等领域研究
张凌寒
中国政法大学数据法治研究院教授、博士生导师，中国法学会网络与信息法学研究会理事
苟博程
北京市康达状师事务所高等合资人，《法治日报》状师专家库成员
- END -
选题策划｜法治网研究院
文｜沈若水
声明｜封面图片来自网络公开渠道，不能识别其来源，如有版权争议，请联系我们删除。
监制｜余瀛波
编辑｜赵子贺
【版权声明】转载请注明来源法治网微信公众号。