自GPT-4o作为现实版的《她》推出后，有名国产AI公司Moonshot也被爆出在外洋悄悄推出了两款运用，个中一款是虚拟陪伴运用Ohai；与此同时，海内虚拟情绪陪伴类AI赛道也挤得火热，已经上架的较有代表性的产品包括MiniMax的星野、阅文的筑梦岛、字节的猫箱、百度的万话、美团的Wow、Xher、冒泡鸭等等。
前不久我们在帮客户解答虚拟人产品合规问题时，也借机测评了十几款虚拟人陪伴产品。我们创造，“用户创建虚拟人”的功能存在较多的合规风险。那么，除了未便利公开谈论的敏感词屏蔽问题外，AI公司还有什么法律风险、该当做些什么才能有效规避这些风险呢？
一、“捏人”功能——AI情绪陪伴产品的大势所趋
当前市情上大部分虚拟人陪伴产品，都推出用户自行创建虚拟角色的功能，叫法也各不相同，有的叫创建“梦中人”、“角色”、“崽崽”，也有的叫创建“数字生命”、“智能体”等等。而用户在创建专属虚拟人角色的时候，须要上传的信息紧张有：
1.创建虚拟角色的基本资料：名字、性别、角色简介、类型、标签、可见范围等
2.创建虚拟角色的对话设置：开场白、人物设定、音色等
3.创建虚拟角色的形象资料：虚拟人形象、形象描述等（部分产品支持根据用户上传的图像天生虚拟人形象）
可以看出，在用户自建虚拟人角色的功能上，大部分产品不管是从角色外不雅观，还是从角色的对话设定，产品开拓者的思路都是在全力地知足用户的定制化需求。支持用户自建角色的功能，在很大程度上填补了该类产品中官方角色的单一性，有效提升了用户粘度。但是针对用户创建虚拟角色的产品功能，我们在这个中也创造了不少产品存在潜在的风险。
虚拟人陪伴产品该如何规避用户创建虚拟人角色的潜在风险
（一）AIGC平台第一案对做事供应者的三点启迪
在广州互联网法院宣判的环球AIGC平台第一案中，法院在认定被告陵犯原告著作权后，从以下三个方面来判断，被告作为供应人工智能做事的平台，是否尽到合理把稳责任：
1.是否建立投诉举报机制
依据《天生式人工智能做事管理暂行办法》第十五条的规定，人工智能做事供应者应该建立健全投诉、举报机制。此外，《天生式人工智能做事安全基本哀求》也针对建立投诉举报渠道提出了哀求。
详细到本文的谈论话题之下，用户在自行创建虚拟人角色时，又可细分为两类：一类是仅涉及UGC（即用户生产内容）的环境，即产品仅支持完备依照用户上传的人物形象等信息创建虚拟人角色；另一类是涉及平台AI天生的环境，即产品将根据用户上传的角色图像，借助产品自身的模型天生终极的虚拟角色。
针对仅涉及UGC的环境：此时AI平台按照1:1创建用户自行上传的虚拟角色，不涉及平台供应AI天生做事时，此时用户创建的虚拟角色属于UGC。
在该功能下，作为供应一样平常网络做事的产品开拓者，不管是依照《民法典》第1195条关于网络做事供应者“关照-删除”的规定，还是依照《天生式人工智能做事管理暂行办法》和《天生式人工智能做事安全基本哀求》的干系规定，AI平台都应该建立投诉举报机制。较为常见的做法是产品“我的-反馈与投诉”中设置投诉举报入口。此外，也有产品在虚拟角色的交互前端额外添加投诉反馈入口，方便权利人针对性地进行投诉举报。
针对涉及平台AI天生的环境：平台根据用户创建虚拟角色时上传的图像、笔墨等，进一步利用平台自身的模型天生终极的虚拟人角色。在此情形下，平台本色上已经直接或间接参与到用户的虚拟角色创建流程中。如用户创建的虚拟角色被认定构成著作权或人格权侵权，那么平台也可能会因此而担责。
2.是否进行潜在的风险提示
在虚拟人陪伴产品的设计层面，应该把稳提示用户对潜在的著作权和人格权侵权风险进行提示。在详细的做法上，大多数产品都会在《用户协议》中设置类似的条款：
“您发布上传的内容均应由您原创或已得到合法授权，担保不陵犯任何人的知识产权、人格权、商业秘密等合法权柄，否则由此产生的侵权风险和任务由您承担，同时您应赔偿我们因此遭受的全部丢失。”
也有部分产品会在用户创建虚拟角色的时候进一步添加版权声明：
3.是否进行天生物标识
根据《天生式人工智能做事管理暂行办法》第十二条以及《天生式人工智能做事内容标识方法》，做事供应者应该按照《互联网信息做事深度合成管理规定》对图片、视频等天生内容进行标识。
谨慎利用算法组织用户创设虚拟形象——“AI陪伴者”人格权侵权案带来的警示
当前市情上的AI虚拟人陪伴产品，除了常规的虚拟人交互功能外，很多产品都开拓了社区属性的模块，叫法各不相同，例如“创造”、“社区”、“论坛”、“虚拟人动态”、“圈子”等等，目的在于通过用户互换和平台推举机制提升用户生动度。
但是对付虚拟人情感陪伴类产品而言，如果将用户创建的虚拟角色通过聚类算法、协同推举算法等技能，在社区模块进行分类并向其他用户推举，乃至许可其他用户进行二次创作，则平台可能很难适用“技能中立”原则。即便平台设置了我们前面提到的投诉举报机制并尽到合理把稳责任，终极可能也难以免责。
（某虚拟人产品对付用户创建的公开虚拟角色，显示将用于公开分发）
AI陪伴软件侵害人格权案作为入选最高公民法院“民法典颁布后人格权法律保护范例民事案例”之一，本案原告何某创造自己在被告的软件中，被大量用户通过上传原告的肖像图片、名称等办法设置为“AI陪伴者”。为了使虚拟角色更加拟人化，被告还供应了“调教”算法机制，在通用语料之外，用户上传了各种符合该虚拟陪伴者人设的笔墨、肖像图片、动态表情等互动语料，被告利用人工智能筛选、分类，形成人物专属语料，根据话题种别、人设特点等，用于AI陪伴者“何某”与用户的对话中，让用户和AI对话就彷佛与原告真人对话一样。同时被告还通过聚类算法，将陪伴者“何某”按身份分类，并以协同推举算法向其他用户推介该虚拟人物。
终极法院认定被告在算法设计和规则设定中嵌套其主不雅观代价和主不雅观目的，不适用“技能中立”的原则，未经容许创设、利用原告虚拟形象的，构成对原告人格权的侵害，讯断被告向原告赔罪道歉并赔偿经济丢失、合理支出以及精神危害抚慰金共计203000元。[1]
我们在体验市情上的虚拟人陪伴运用时，创造不少产品都在产品的社区论坛模块对不同虚拟人角色进行分类、有些乃至贴上“官方推举”的标签，“AI陪伴者”案或容许以给同类产品开拓者带来警示：利用推举算法技能，平台可能难以辩白为仅供应“通道”做事。
（某虚拟人产品在“创造”页面展示的虚拟角色）
多聊几句
当前关于人工智能的诸多规则尚未明确，针对虚拟人情感陪伴产品，尚未形成监管上的定论。我们认为，一方面，无论是监管部门还是审判机关，都不宜为企业设置过于严苛的事前风险戒备责任；另一方面，对付产品开拓者而言，可以从当前的有限的法律实践得到启迪，除了尽到合理的把稳责任，还应该谨慎地进行产品规则设计和算法运用，更应该只管即便避免过于明显的违法行为，为自己的产品留下充分的“自作掩饰”的空间。
[1]北京互联网法院 ：《法官讲案例（四）：制作名人AI形象陪伴，小心侵权》https://mp.weixin.qq.com/s/BG7yr-u9QTo-vwv_0uBMAw。
创作团队作者：陈焕 李琪瑶 审核：有鲤Legal