AI换脸履行诱骗、AI翻唱明星歌曲、AI“复活”逝者……随着AI技能的不断发展，在网上“克隆”他人的边幅、声音已非难事，干系轇轕也习认为常。
前不久，北京互联网法院一审开庭宣判全国首例AI天生声音人格权侵权案，明确认定在具备可识别性的条件下，自然人声音权柄的保护范围可及于AI天生声音。AI天生声音可识别性的认定应综合考虑行为人利用情形，并以干系领域普通听众能否识别作为判断标准。
接管《法治日报》采访的专家认为，对付AI技能的研发和运用，需在保护个人权柄的根本上进行。应提高AI技能的安全性和可靠性，防止声音被造孽获取和利用；还要加强行业自律，建立完善的监管机制，规范AI技能的利用行为，确保AI技能循着以人为本和技能向善的理念发展。
语音合成以假乱真
伪装熟人履行诱骗
在多款AI软件中搜索创造，有不少模拟有名艺人声音的情形。去年，“AI孙燕姿”翻唱《发如雪》等歌曲，迅速走红网络，多平台播放量破百万，热度居高不下。之后又涌现一批其他“AI歌手”，个中不乏已故歌手的AI。随后，大批AI翻译作品呈现，如郭德纲用英语说相声等。
据理解，“AI孙燕姿”利用的核心技能来源于Sovits4.0模型。它是基于AI技能的免费学唱软件，用户只需输入歌词和曲调，就可以精准仿照人声，自动天生一首翻唱歌曲。
在某短视频平台搜索创造，关于此类技能的学习教程不在少数。有业内专家指出，目前，通过AI技能，可以实现对图像、声音、视频的修改、假造和自动天生，产生以假乱真的效果，一些不法分子很可能利用这类技能履行违法犯罪行为，危害社会公共利益。
个中，最为常见的手腕是伪装熟人履行电信诱骗。不久前，江苏句容的杨女士在收到自己“女儿”多条哀求缴纳报名费的语音后，向骗子账户转账3.5万元。对此，办案民警反复提醒：“碰着转账一定要慎之又慎，眼见不一定为实。”
“自然人的声音也是人格权的一种，受民法典保护。任何人不得丑化、污损或者假造他人声音，更不可以未经本人容许，模拟他人声音获利。”北京市京师状师事务所状师许浩说。
许浩先容，和著作权不同，自然人的声音有独特性，在音色、语调以及发音风格等多维度，可识别性较强，利用人工智能工具对其加工，并进行传播获利，则构成对人格权的侵权。
“特定人的声音可以产生一定经济代价的属性，被陵犯不仅会造成人格丢失，更可能造成经济丢失。”北京京本状师事务所主任连大有说，但实践中这类案件常日面临维权难的困境，存在取证难、举证难、认定难等问题。
未得到权利人赞许
擅自利用构成侵权
AI“复活”逝者也是颇受争议的话题之一。
在某电商平台上看到，不少网店专门从事AI“复活”逝者的买卖，称可以“让动态照片开口说话，修复合成微笑定制怀念视频”，一样平常标价为10元。但产品详情页中写道，拍前请与客服沟通需求，详细价格根据难易程度决定。
客服先容，大略地让照片动起来只需几十元钱，轻微繁芜点有表情的要上百元。如果须要采取AI换脸技能，根据相似度不同，价格在几百元至上万元不等，其声音、容貌的相似度可达95%以上。
据理解，AI“复活”逝者是基于大数据剖析、语音合成、机器学习等前辈技能，通过对逝者生前的笔墨、音频、视频资料进行深度学习，创造出与其音容笑脸极为相似的虚拟形象。
在中国政法大学传播法研究中央副主任朱巍看来，是否得到权利人的合法授权，是剖断是否构成声音权柄侵权的关键。近年来，AI语音合成技能的运用日益普遍，但编辑、利用某一自然人的声音，须要当事人单独赞许。如果当事人已经去世，应该得到干系权利人的授权，但此举也有可能引发伦理问题。
朱巍认为，所谓的“复活”，实质上是利用深度合成技能天生所谓的虚拟人或者数字人，须要利用逝者的人脸、声音等各种数据，合营自己的目的制作相应的内容。如果行为人为了吊唁目的，“复活”自己的亲人，原则上不构成侵权，但若是出于营利、博眼球、诱骗等违法目的，则可能构成侵权，乃至是刑事犯罪。
“如歌迷、粉丝出于对已故偶像的喜好，用AI技能复活偶像，这种行为涉嫌违法。”连大有说，根据民法典第九百九十四条，去世者的姓名、肖像、名誉、名誉、隐私、尸首等受到侵害的，其配偶、子女、父母有权依法要求行为人承担民事任务；去世者没有配偶、子女且父母已经去世亡的，其他近支属有权依法要求行为人承担民事任务。
连大有说，利用技能“复活”去世者的行为还可能涉及知识产权问题，如“复活”已故偶像，每每会利用干系的歌曲、影视、著作等知识产权。干系的知识产权可能属于其他公司、企业等，也须要得到其授权才能利用。
明确侵权赔偿任务
制订技能标准规范
对付AI语音合成技能背后的侵权风险，干系部门和网络平台已动手监管和规范，考试测验在技能发展和法律保障之间达到平衡。
2022年11月，国家网信办等部门发布《互联网信息做事深度合成管理规定》，哀求任何组织和个人不得利用深度合成做事制作、复制、发布、传播法律、行政法规禁止的信息；可能导致"大众年夜众稠浊或者误认的，应该在天生或者编辑的信息内容的合理位置、区域进行显著标识。
2023年7月，国家网信办等部门发布《天生式人工智能做事管理暂行办法》，此举标志着天生式AI有了专门性行政法规。
该办法第七条规定，天生式人工智能做事供应者应该依法开展预演习、优化演习等演习数据处理活动，哀求必须利用具有合法来源的数据和根本模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应该取得个人赞许或者符合法律、行政法规规定的其他环境；采纳有效方法提高演习数据质量，增强演习数据的真实性、准确性、客不雅观性、多样性。
2023年9月，科技部等10部门印发的《科技伦理审查办法（试行）》，列出了须要开展伦理审查复核的科技活动清单，个中就包括具有社会动员能力和社会意识勾引能力的算法模型、运用程序及系统研发等。
与此同时，干系平台也在考试测验加强管理。2023年5月，抖音发布关于人工智能天生内容的平台规范暨行业倡议。对付创作者、主播、用户、商家、广告主等平台生态参与者在抖音运用天生式人工智能技能提出哀求，对付违规利用AI技能的行为，一经创造，平台将严格惩罚。
连大有认为，AI领域的法治化仍有进一步细化的空间。可加快人工智能方面的法律供给，推动国家层面天生式人工智能规范的确立。对已有案例涌现的疑难法律问题，要通过学术谈论和法律实践，逐步形成共识，总结确立法律适用规则。
“在AI技能不断发展的背景下，要更加看重保护个人隐私和声音权柄，同时也要规范AI语音合成技能的运用范围和利用办法。”许浩认为，对付干系的公司和个人来说，应该加强对付AI技能的理解和运用，遵照法律法规和行业标准，避免陵犯他人权柄。
朱巍呼吁，技能供应方应该重视技能伦理问题，制订统一的技能标准和规范，确保技能运用有底线。在法律监管方面，提升防控方法的精准性、透明性和稳定性。
连大有建议，在法律实践中，要进一步细化干系法律规定，明确声音权的范围、侵权行为的认定标准以及赔偿任务、承担办法等。同时，还要加强宣扬教诲，提高"大众年夜众对声音权的认识和重视，营造全社会共同掩护声音权的良好氛围。
作者｜法治日报全媒体 温远灏