“雷军骂人”音频疯传，状师提示,克隆,声响,Reecho
2021年11月1日，《中华群众共(gong)和国小我私家信息珍(zhen)爱法》（以下(xia)简称(cheng)《小我私家信息珍(zhen)爱法》）正式施行，为中国小我私家信息珍(zhen)爱提供了更具系统性、针(zhen)对(dui)性和可操纵性的法律遵守。三年来，各类数据(ju)处理者采取了哪些措施强化小我私家信息珍(zhen)爱，面(mian)对(dui)野生智能等技能带来的新挑战(zhan)，有(you)哪些应对(dui)举(ju)措？
南都大数据(ju)研讨院推出“《小我私家信息珍(zhen)爱法》落地三周(zhou)年”系列(lie)报导，从案例观察、运(yun)用(yong)实测、企业对(dui)话等方面(mian)，探讨比(bi)年小我私家信息珍(zhen)爱范畴的新变化与新实践，预测未来技能发(fa)展方向与挑战(zhan)。
第一期，实测近期网络热议(yi)的AI换声运(yun)用(yong)，希望厘清AI服务提供者应负起(qi)的小我私家信息珍(zhen)爱和网络内容平安义务。
继(ji)“AI换脸”后，“AI换声”也激发(fa)广泛关注和接头，尤其是随着声响被网络、合成、模仿的景象(xiang)越来越普遍，背(bei)后涉(she)及的小我私家信息珍(zhen)爱、网络内容平安等成绩不容轻忽。
好比(bi)国庆假期，有(you)网民制作并上传大量雷军的AI音频，其中不乏(fa)骂人、恶(e)搞小米(mi)产(chan)物的语音，成为舆论热门(men)。
9月尾，有(you)人利用(yong)AI假造三只羊公司首创人的灌音，也引得警方介入观察……
南都大数据(ju)研讨院近期实测多款具备(bei)声响克隆能力的产(chan)物，发(fa)明(ming)名(ming)为 “Reecho睿声”的AI运(yun)用(yong)对(dui)声响克隆几乎不设限，毛病言论、诋毁话语、涉(she)黄文句，都可用(yong)他人声响“读”出来。
当(dang)任何人都能随便生成“以假乱真”的克隆人声而且(qie)公开分享，如何保障当(dang)事人权益？AI服务提供者又(you)该如何履行小我私家信息珍(zhen)爱和网络内容平安义务？
克隆人声无需任何授权
语音合成技能运(yun)用(yong)已久，比(bi)方舆图软件的导航语音包和AI歌(ge)手等都是雷同技能的产(chan)物。AI声响克隆技能被不法分子利用(yong)也非新鲜(xian)事。早(zao)在2021年初，中国公安部网安局就披露(lu)过利用(yong)AI技能举(ju)行语音诈骗案例。而网络平安公司McAfee去年开展的一项(xiang)观察结果显示，10%的成年受(shou)访者曾(ceng)遭受(shou)AI语音诈骗，另有(you)15%表示知道其他人遭受(shou)过雷同骗局。
随着AI声响技能发(fa)展和运(yun)用(yong)门(men)槛的进一步降低，互(hu)联网上涌现很多“开箱即用(yong)”的AI声响克隆运(yun)用(yong)。 比(bi)方近期因三只羊公司“灌音门(men)”和“雷军骂人语音”等变乱受(shou)关注的“Reecho睿声”，用(yong)户可借该运(yun)用(yong)随便克隆任何人的声响，而且(qie)能公开分享锻炼成功(gong)的模型，由此激发(fa)的信息平安成绩不容小觑。
早(zao)前报导
“Reecho睿声”为深圳市言域科技无限公司（下(xia)称(cheng)“言域科技”）旗下(xia)产(chan)物，该公司表示，三只羊“灌音门(men)”和“雷军骂人”的假造语音均出自“Reecho睿声”。天眼查数据(ju)显示，言域科技去年12月建(jian)立，注册资源107万元，近期完(wan)成天使轮融资，投资方为奇(qi)绩创坛。其官网介绍，Reecho睿声语音大模型是一款具备(bei)声响克隆和文生音频能力的AI大模型，目条件供“瞬时克隆”和“专业克隆”两种(zhong)声响克隆形式。
南都大数据(ju)研讨院实测发(fa)明(ming)，在“Reecho睿声”上克隆声响的流程异常(chang)简朴。用(yong)户使用(yong)手机号(hao)码简朴注册成功(gong)后，若使用(yong)“瞬时克隆”能力，只需上传一段5-25秒的音频文件作为锻炼素材，AI就会主动(dong)进修并生成一个(ge)克隆角色，随后用(yong)户便可用(yong)该克隆角色念(nian)出肆意文本内容。从上传素材、输入文本到输出音频，守候时候不超(chao)过3分钟，且(qie)生成结果虽在情绪(xu)表现力上仍有(you)欠缺，但与真人声响已非常(chang)接近。若是付费使用(yong)精度更高的“专业克隆”，用(yong)户需提供1—60分钟的锻炼素材供AI深切进修锻炼，并举(ju)行实名(ming)登记，但依旧不必提供任何素材已获授权的证(zheng)实质料。
侵权模型仍未下(xia)架
值得注重的是，“Reecho睿声”专门(men)设置(zhi)“声响市场”板块，用(yong)户无需提供任何版权证(zheng)实或合规承诺，便可把自己(ji)锻炼成功(gong)的人声模型分享至该板块，供其他用(yong)户随便使用(yong)。10月23日，南都研讨员在此声响市场内发(fa)明(ming)“周(zhou)杰伦”“郭德纲”“刘(liu)亦菲”等大量知名(ming)流士的声响克隆模型，连(lian)已故球星科比(bi)、掌管人罗京的声响也被制成模型。用(yong)户只需将声响模型到场角色库(ku)，输入肆意语句，便可制尴尬刁难应人物的AI配音。
“雷军骂人”假造语音激发(fa)关注后，言域科技首创人 谢伟铎曾(ceng)向媒(mei)体(ti)表示， 公司会参照其他UGC平台的形式去管理，在需要时积(ji)极合营权利方诉求举(ju)行处理；其已接到小米(mi)公司的接洽，正通知用(yong)户下(xia)架或修改涉(she)及雷军的内容。但截至10月23日，南都研讨员看到 “Reecho睿声”上仍有(you)三个(ge)名(ming)为“雷军”的克隆声响模型可正常(chang)使用(yong)。页面(mian)数据(ju)显示，三个(ge)“雷军”模型分别于10月4日、12日、21日上架，内容生成量最高的“雷军”已被使用(yong)超(chao)80万次(ci)，生成超(chao)4500万字符内容。
截至10月23日，“Reecho睿声”上仍有(you)三个(ge)名(ming)为“雷军”的克隆声响模型可正常(chang)使用(yong)。
不良言论音频可随便生成
针(zhen)对(dui)部分用(yong)户利用(yong)“Reecho睿声”制作恶(e)搞、辱骂语音，谢伟铎曾(ceng)表示， 有(you)些配音确实不太文化，但言域科技只是创作工(gong)具提供方，没有(you)足够(gou)力量控制局势演化。其认为，作为AI语音克隆工(gong)具，不太得当(dang)在脚(jiao)本内容没有(you)明(ming)显违法的环(huan)境下(xia)过多干预用(yong)户的创作。别的，言域科技在三只羊“灌音门(men)”变乱后回应称(cheng) ，其正在部署包含强化的实名(ming)认证(zheng)机制，强化的敏感(gan)词多维度智能侦测预警，和可溯源音频水印(yin)等多重平安措施。
然而，10月23日，南都研讨员在“Reecho睿声”上测试(shi)发(fa)明(ming)，该运(yun)用(yong)对(dui)用(yong)户不合理语音生成需求的监测或警示非常(chang)不足。在其“声响市场”内随便遴(lin)选一款人声模型，好比(bi)“雷军”“撒(sa)贝宁”等，均可请求“该人声”根据(ju)用(yong)户输入内容，清晰且(qie)完(wan)备(bei)地读出相应文本， 即就是含有(you)辱骂、诋毁、涉(she)黄、涉(she)暴、涉(she)恐、毛病的内容，也都畅行无阻(zu)。
多款同类产(chan)物设有(you)场景限定(ding)
有(you)业内人士向南都研讨员表示，言域科技在产(chan)物运(yun)营上很是“勇敢”：国内虽有(you)很多企业产(chan)物也可实现雷同声响克隆结果，但大多设有(you)身份验证(zheng)或场景限定(ding)。
南都大数据(ju)研讨院对(dui)国内提供声响克隆能力的AI服务、影视剪辑、语音助手、舆图导航等分歧类型产(chan)物举(ju)行了实测。其中，腾(teng)讯云声响工(gong)坊为约请测试(shi)产(chan)物，需要用(yong)户提交申请后与专人接洽；豆(dou)包声响复刻大模型请求用(yong)户登记身份证(zheng)号(hao)、完(wan)成人脸认证(zheng)后方可以使用(yong)；魔音工(gong)坊限定(ding)用(yong)户必需经过微信小步伐(fa)即时录制音频；剪映、高德舆图、“小爱同砚”“Jovi语音”均请求用(yong)户即时录制朗诵指定(ding)文本的音频。 以上七款产(chan)物均不同意向非特定(ding)用(yong)户分享声响克隆模型。
前述业内人士介绍，请求用(yong)户即时录制音频，能降低用(yong)户从互(hu)联网上截取他人音频用(yong)于锻炼的可能性；请求素材为指定(ding)文本内容，能帮(bang)助被灌音者发(fa)觉音频实际用(yong)处；请求用(yong)户实名(ming)认证(zheng)，能为发(fa)生侵权胶葛时追溯始作俑者提供帮(bang)助。最关键的一点是， 禁止用(yong)户随便分享声响克隆模型，能降低模型被滥用(yong)的可能性。
南都对(dui)8款具备(bei)声响克隆能力的产(chan)物举(ju)行了实测。
未经许可处理人声构成侵权
南都研讨员实测发(fa)明(ming)，前述“AI声响侵权案”被告(gao)之一的魔音工(gong)坊现已在用(yong)户使用(yong)声响克隆功(gong)能前，逼迫用(yong)户必需浏览服务协议(yi)至少5秒，并手动(dong)点击确认按钮，声明(ming)锻炼素材为自己(ji)声响。别的，剪映、“小爱同砚”“Jovi语音”等在录制音频前也请求用(yong)户再(zai)次(ci)确认同意用(yong)户协议(yi)。
相较下(xia)，“Reecho睿声”虽在“使用(yong)帮(bang)助”文档中表示禁止使用(yong)其服务克隆或生成任何侵占版权、违背(bei)道德伦理或违背(bei)法律法规的内容，但在“瞬时克隆”形式下(xia)，用(yong)户只会在账户注册时被提示浏览隐私政策等文档，此后上传素材、生成模型、公开分享等操纵均再(zai)无明(ming)显提示。
“Reecho睿声”仅在“使用(yong)帮(bang)助”文档中提示用(yong)户弗成生成违规内容。
垦丁状师事务所状师 叶丹妮表示，民法典规定(ding)，网络服务提供者知道大概应该知道用(yong)户利用(yong)其网络服务陵犯(fan)他群众事权益，未采取需要措施的，与该网络用(yong)户负担连(lian)带义务。若是AI声响克隆平台有(you)公布(bu)或社(she)区功(gong)能，明(ming)知有(you)侵权配音仍举(ju)行引荐，这类环(huan)境下(xia)会由于连(lian)带侵权而担责。
泰(tai)和泰(tai)（深圳）状师事务所状师 洪(hong)瑞成也表示，根据(ju)《生成式野生智能服务管理暂行举(ju)措》，AI服务提供者需要确保锻炼处理流动(dong)数据(ju)正当(dang)，对(dui)使用(yong)者的输入信息及使用(yong)记录履行珍(zhen)爱义务；如发(fa)明(ming)违法内容，服务提供者有(you)义务及时采取停(ting)止生成、停(ting)止传输、消除等处理措施。
别的，南都研讨员未在广东网信部门(men)网站上查询到言域科技的生成式野生智能服务备(bei)案或登记信息。垦丁状师事务所团结首创人欧阳昆泼表示，言域科技若没有(you)履行备(bei)案义务，对(dui)内容考核、平安评(ping)估等义务也没有(you)做到位的环(huan)境下(xia)，有(you)可能被羁系构造穷究相关法律义务。
南方都会报（nddaily）、N视频报导
出品：南都大数据(ju)研讨院 数据(ju)平安管理与发(fa)展课题组
采写：南都研讨员 李伟锋 实习生 纪依
（南都记者杨柳对(dui)本文亦有(you)贡(gong)献）
▊