两会期间雷军等回应AI伪造侵权，虚假视频何时休？

hwyzw

    名流登场、学者推销药品……仅凭一张图片、一段音频，即可制作出虚假视频，在今年的两会期间，雷军等受害者的发声，使得AI伪造侵权问题再度成为公众关注的焦点。

    换脸拟声合成视频 AI伪造何时休？

    全国人大代表雷军表示，有人调侃称去年国庆假期长达七天，而他却是在第八天被骂醒。网络上充斥着大量以他的声音和形象进行谩骂的内容。起初，他以为这是网民们喜欢的一种玩笑，自己也能理解，但随着这些低俗内容越来越多，已经到了难以防范的地步。

    雷军遭受恶搞事件，同时AI刘德华涉嫌虚假宣传，而AI张文宏医生以及AI工程院院士张伯礼更是跨界成为带货主播。

    朱巍，中国政法大学的副教授指出，目前我们遇到的一些编辑人脸，甚至包括声音，根据民法典的相关规定，本质上属于当事人自身的个人权利。未经当事人许可，任何个人都无权侵犯这些权利，既不能直接利用，亦不能将当事人的人脸或声音信息用于深度合成，更不能将其存入深度合成的素材库或场景库中。

    持续处置

    滥用AI伪造名人形象带货营销

    针对利用人工智能技术虚构名人形象进行商品推广的现象，网络信息管理部门一直在敦促各大网站和平台加强巡查和整治，在最近的一个月里，这些重点网站和平台共对797个涉嫌违法和违规的账号及店铺进行了处理。

    新闻链接

    AI换脸换声诈骗案件时有发生

    除了利用伪造的名人形象进行商品推广营销，AI换脸以及语音合成技术亦被用于实施诈骗活动。不法分子通过非法手段获取他人的人脸图像和语音资料，借助公共可获得的AI工具，制造出栩栩如生的虚构形象。

    在内蒙古警方近期侦破的一起AI换脸诈骗案件中，福建一家科技公司的负责人郭先生，在视频通话中看到了所谓“朋友”的面容。短短10分钟内，他被骗转账高达430万元。事后，他方才意识到，那所谓的“朋友”实际上是由AI换脸技术和拟声技术合成的“虚拟替身”。

   

    在另一宗案件中，上海市民刘先生通过短视频平台与一位名为“焦女士”的女子相识，两人相恋后，刘先生以各种借口被骗走了20万元。经过警方的深入调查，发现这个犯罪团伙利用AI技术制作了虚假照片，以此来实施婚恋诈骗，涉案金额已经超过了200万元。

    AI换脸+拟声

    记者体验“深度伪造”

    人脸替换技术、声音模仿手段，网络中广泛存在的AI“深度伪造”技术究竟是如何实现的？这真的简单易行吗？记者特地邀请了技术人员进行了一次实验，他们将预先录制的视频中的面孔和声音替换成了记者的。仅凭记者的身份证照片，不到两分钟的时间，视频中的面孔便成功替换成了记者的。紧接着，是声音的AI合成过程，记者现场录制的一段声音被输入到了AI的声音数据库中。

    潘季明，网络技术领域的专家：在接到您的录音片段后，我们运用先进的AI算法进行深入的分析与学习，随后，借助任意输入的文本内容，我们能够利用您的声音进行朗读。

    AI生成的换脸及声音视频一旦制作完毕，将这两部分视频进行合并，便成功创造出了一段由AI合成的记者视频。

    AI合成声音制作视频

    购物平台随意定制

    专家指出，这类如AI换脸、换声的软件属于半专业范畴，一般网民尚难以熟练运用。然而，在记者的调查过程中发现，即便网民们未能熟练掌握相关技术，他们依然能够轻易获取所需的合成视频。

    在购物平台上输入“声音克隆”关键词，便会涌现出众多销售此服务的商家。记者了解到，这些商家提供的AI声音深度合成服务，其费用依据字数多少，介于20至50元人民币。商家向记者透露，只要提供一分钟的原始语音素材，他们就能利用AI技术合成出该声音的任何所需话语。更有商家向记者展示了一例，即之前有客户在其网店定制了刘德华的声音。

    总台央视记者崔世杰介绍，AI深度合成视频分两个步骤，

    首先是声音克隆，获取目标人的声音。

    利用目标人物的影像资料，将已复制的声音与之结合，同时进行面部表情的同步处理。

    这样一个AI深度合成视频就完成了。

   

    记者挑选了一家专门提供声音克隆服务的网店，支付了20元费用，并上传了自己的声音样本及相应文字，随后成功获得了由AI技术深度合成出的模拟记者声音。

    记者随后前往另一家专注于AI视频制作的网店，支付了58元，上传了记者的语音和视频素材，随后便获得了由AI技术制作的带有记者本人形象的带货视频。

    AI伪造视频

    违反了哪些法律法规？

    关于AI深度合成作品，相关法律法规作出了具体规定。《互联网信息服务深度合成管理规定》自2023年起实施，其中明确指出，任何组织或个人均不得借助深度合成技术制作、复制、发布或传播那些被法律和行政法规所禁止的信息。

    《人工智能生成合成内容标识办法》将于今年9月1日起正式施行，该办法明确要求对AI所生成的合成内容进行明确标识，旨在帮助公众准确识别与辨别，从而有效遏制误导性信息的扩散。

    如何防止人工智能技术被滥用

    亟待破题

    网店在制作和销售AI生成的声音与视频内容时，并未进行任何形式的标注。针对这种情况，他们究竟需要承担何种法律责任呢？

    朱巍，中国政法大学副教授指出，若未经权利人许可擅自使用他人的肖像与声音，并予以公开传播，依据民法典的相关规定，这已构成侵权行为，侵权者需承担相应的法律责任，包括但不限于赔偿损失和精神损害赔偿。若将相关视频经过声音剪辑等处理，最终构成了相应内容，那么该内容一旦触犯了网络安全法的有关条款，涉事者或许需承担涵盖刑事责任在内的多重法律责任。

    今年两会期间，关于“如何应对及遏制人工智能技术被滥用”的议题持续引发热议。如何在技术创新与法律监管之间寻求平衡点，成为解决虚假信息和谣言传播问题的关键所在，亟待解决。

    吕延辉，中国计算机学会计算机安全专业委员会委员指出，针对AI侵权问题，我们必须采取多方位的策略。首先，在法律领域，必须对现行法律进行补充和优化，对AI克隆技术相关的法律条文进行细致化，清晰界定侵权行为及其法律责任。此外，还需强化执法工作，确保法律的有效实施。（央视新闻）