日前，国家网信办起草的《人工智能天生合成内容标识办法（搜聚见地稿）》（以下简称《办法》），面向社会公开搜聚见地。新京报把稳到，与之配套的逼迫性国家标准《网络安全技能 人工智能天生合成内容标识方法》（以下简称《标识方法》）同步在全国标准信息公共做事平台公开搜聚见地。
真假难辨，“AI换声”“AI换脸”诱骗案件量正在增加
《办法》拟规定什么？大略来说，AI天生合成的内容要在显著位置作出标识，也便是要给它们打上“专属水印”。
给AI天生合成内容打水印为何如此主要，须要单独出台文件加以规制？受访者认为，这与AI运用带来的虚假宣扬、敲诈等社会风险有着直接关系。
天生式人工智能的运用落地不过是近两年的事情，然而利用AI履行诱骗、侵权等违法犯罪的数量正在快速增加。把稳到，多地公安机关曾发布过干系提醒，法律机关也发布了多起利用AI履行犯罪的范例案例。部分案例经由媒体宣布和平台传播，引发不少人的担忧乃至是惶恐。
“AI诱骗正在全国爆发”的词条一度登上热搜，一时谈论声四起。据浙江省科普联合会发布的文章，AI诱骗的类型包括：语音合成诱骗、视频/图像合成诱骗、谈天机器人诱骗、数据操控与假造。其所依托的技能紧张为自然措辞处理和机器学习。
上述前两种类型便是很多人听说过的“AI换声”“AI换脸”。《办法》提出，对付AI天生合成的音频，在起始、末端或中间适当位置添加语音提示或音频节奏提示等标识；AI天生合成的视频，在起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末端和中间适当位置添加显著的提示标识。对付AI天生合成的文本、图片等信息，《办法》也拟作出相应规定。
除了上述可被用户明显感知的显式标识，《办法》还拟对隐式标识的添加予以明确，提出做事供应者在天生合成内容的文件元数据中添加隐式标识，隐式标识包含天生合成内容属性信息、做事供应者名称或编码、内容编号等制作要素信息。
《办法》拟作何详细规定？办理什么问题？
详细来说，《办法》拟对做事供应者、网络信息内容传播平台的做事供应者、互联网运用程序分发平台、用户分别规定相应的任务责任。
公开搜聚见地的关照。图源国家网信办官网
北京大成状师事务所高等合资人肖飒阐明，做事供应者即利用天生式人工智能技能供应天生式人工智能做事，利用算法技能供应信息做事、深度合成做事的组织、个人。
对做事供应者，《办法》提出在天生合成内容时主动添加显式标识或隐式标识，实行逼迫性国家标准；在用户做事协议中明确解释天生合成内容标识的方法、样式等，并提示用户仔细阅读并理解干系的标识管理哀求。
对付供应网络信息内容传播平台的做事供应者，如AI谈天网站，《办法》特殊提出，在处理和核验天生合成内容时，平台须要承担核验标识的任务。
对付互联网运用程序分发平台，如运用商店，《办法》提出，在运用程序上架时，应该核验做事供应者是否按哀求供应天生合成内容标识功能。
用户在上传天生合成内容时，应该主动声明并利用平台供应的标识功能作出标识，不得恶意删除、修改、假造、隐匿天生合成内容标识。
西南政法大学科技法学研究院副院长、教授郑志峰认为，通过规范标识可以帮助"大众年夜众准确区分AI天生合成内容与人类创作内容，提升信息透明度，掩护信息生态的真实性，保障公众的知情权。通过标识还可追溯天生内容的来源，明确任务主体。
他指出，通过标识内容可以降落虚假宣扬、敲诈等社会风险。肖飒同样指出，AI天生合成内容可能被用于制造社会惶恐、传播谣言或履行其他造孽活动，通过逼迫标识，可以有效地掌握这些行为，掩护社会稳定。
2022年以来，国家网信办等部门发布的文件中，相继明确对符合哀求的AI天生合成内容作出标识，为何还要单独制订《办法》？
郑志峰指出，之前的文件只是作出原则性哀求，没有深入谈论详细的标识办法、范围和技能标准。在此背景下，《办法》的进一步规定可以肃清标识标准的模糊性。详细来说，《办法》紧张明确任务主体和责任，《标识方法》则供应详细操作细节。
“这种双重保障机制将确保标识哀求不仅有依据，还有技能实行路径，具备可操作性，确保规定真正落地，而不但是勾留在表面哀求上。”郑志峰向阐明。
此举能戒备日益突出的AI诱骗吗？
《标识方法》这一逼迫性国家标准拟明确各种AI天生合成内容的详细标识办法。个中，视频内容的显式标识应采取笔墨提示。
详细而言，应同时包含人工智能要素——含“人工智能”或“AI”，表明利用人工智能技能；包含天生合成要素——含“天生”和/或“合成”，表明内容制作办法为天生和/或合成。
视频内容显式标识示例。图源《标识方法》
音频内容的显式标识应采取语音标识或音频节奏标识。语音标识应同时包含人工智能要素——含“人工智能”或“AI”，表明利用人工智能技能；包含天生合成要素——含“天生”和/或“合成”，表明内容制作办法为天生和/或合成。
音频节奏标识应为“短长 短短”的节奏。《标识方法》注释称，“短长 短短”节奏为“AI”的摩斯码表示。
音频内容显式标识示例。图源《标识方法》
以“AI换脸”诱骗为例，肖飒剖析，根据《办法》和《标识方法》哀求，潜在受害人该当能够在视频中看到显著标识，提示该视频是AI天生合成内容。
详细来说：视频中可能会有明显的笔墨提示，如“本视频为合成内容”，或者视频角落处有明显的标识符号，如“人工智能天生合成”；标识应该放置在视频的显眼位置，如角标、横幅等，以便用户一眼就能把稳到；标识的颜色和字型应该足够能干，以便与视频背景区分开；如果视频支持交互功能，在用户考试测验播放或下载视频时，系统可能会弹出提示框，奉告用户该视频是AI生产合成的。
“从效果来看，可以预测，《办法》和《标识方法》的履行有助于提高AI天生合成内容的透明度，降落老百姓遭AI诱骗的风险。”肖飒见告。
郑志峰认为，标识可以起到区分人机界线的浸染，同时具有警示功能，提醒用户慎重对待AI天生合成内容，避免上当受骗。“当然，标识的浸染也是有局限性的，无法应对所有的问题。例如，AI天生合成内容是否陵犯他人的著作权、人格权，并非标识可以办理的。”
专家建议：明确未履行标识责任的任务规则，特殊是民事侵权任务
《办法》第13条拟规定，未对AI天生合成内容作出标识造成严重后果的，由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以惩罚。
郑志峰指出，《办法》拟作出的任务深究规定较为笼统，任务机制不足完善，没有明确未履行标识责任的任务规则，特殊是民事侵权任务。
“《办法》仅规定‘未对天生合成内容进行标识造成严重后果的’依法进行惩罚。但对第10条所涉及的利用者的行为，未规定惩罚方法。”肖飒指出，有的利用者恶意滥用AI天生合成内容，通过不正当标识手段危害他人合法权柄、散布虚假信息，建议补充惩罚方法或列明可供援引的其他法律规范。
此外，郑志峰提出，标识适用于AI天生合成内容，对付人机协作天生合成的内容是否适用并不明确。例如，AI天生一首唐诗，用户对内容作了很小的修正，是否须要标识并不清楚。
总的来说，内容标识是戒备天生式人工智能运用风险的主要一步，有助于提高透明度，帮助用户识别AI天生合成内容。
“但这只是多层次防控体系的一部分。”肖飒认为，要想真正规避风险，还应细化法律法规，建立行业自律标准，如明确界定法律任务，特殊是版权、隐私保护等问题；推动行业自律，建立统一的技能标准和伦理准则，勾引企业合理合法利用AI技能。
在郑志峰看来，当前我国人工智能立法呈现明显的场景化特色，如关注自动驾驶、人脸识别、天生式人工智能、深度合成等详细场景，且立法的级别不足高。
“随着我国人工智能家当的发展，人工智能立法储备的丰富，制订一部《人工智能法》的契机已经成熟。相较于分散的部门规章，《人工智能法》可以系统明确人工智能各方权利、责任、任务，建立起覆盖人工智能全生命周期的、统一的监管规则，避免场景化立法存在的重复立法和监管盲区问题，具有更强的适应性。”郑志峰认为。
新京报 行海洋
编辑 张牵 校正 张彦君