靳东称观众被AI换脸骗惨，雷军网上遭AI恶搞8天

hwyzw

    靳东的观众“被骗得很惨”，雷军“在网上被骂了8天”

    我们常说“眼见为实”，AI时代，眼见也不一定真实。

    3月5日，靳东在政协小组讨论环节发表言论，提及：“众多热衷于我出演的影视作品的观众，不幸被AI换脸制作的视频所欺骗，情况相当严重。这一行为性质极其恶劣。我衷心希望可以制定出更加完善的规则。”

    并非仅此一例，全国人大代表、小米公司创始人雷军亦提出了关于强化对“AI换脸拟声”领域侵权现象严重区域的整治措施的建议。自去年国庆节以来，短视频平台上出现了众多由AI技术生成的雷军讲话视频，这些荒谬不经的言论不仅给雷军本人，也给小米公司带来了不小的困扰与损害。

    生成式人工智能技术的进步使得AI换脸拟声技术成为诈骗的新手段，这一现象在近期全国两会期间引起了广泛关注。众多代表和委员针对人工智能技术发展过程中涌现的问题纷纷建言献策。面对“AI诈骗”事件频发的现状，我们该如何有效防范？

    “靳东”是骗子冒充的 诱导当事人投资、转账

    2024年11月，江西有一位年迈的女士前往银行办理银行卡，她提出要贷款200万元以资助“靳东”进行影视拍摄。然而，民警在调查过程中发现，这位女士所说的“靳东”实际上是被一名骗子假冒的，而那段视频则是通过电脑AI技术合成的。

    “AI假靳东”成为热门话题之后，众多网友纷纷分享了自己在家中与人工智能进行“较量”的经历。

    2020年的秋季，江西都市频道播出了当地的一个奇闻，讲述了一位61岁的女性因为与所谓的“假靳东”进行了数年的网络恋情，最终选择离家出走。这些视频主要截取了演员靳东的影视作品片段，并配上了一种语气生硬的机械男声，其中一些甚至使用了地方口音，漏洞百出。

    五年光阴逝去，那些诈骗手段依旧如故，但技术层面却变得更加逼真。得益于AI换脸和AI拟声技术的辅助，“假靳东”的形象在小小的屏幕上愈发生动逼真，让人难以分辨真伪。

    靳东在提案中指出，众多中老年女性不幸成为AI换脸诈骗的受害者，她们不仅遭受了财产上的损失，还承受了情感上的创伤。更有甚者，一些不法分子利用伪造的靳东形象诱导投资和转账，严重者甚至导致了家庭关系的破裂。

    他已经连续第二年致力于推动“AI换脸拟声”相关立法的进程，他提出应要求在所有AI生成的内容中加入不可更改的水印标识，构建一个AI生成内容的黑名单数据库，对高度仿真的账号实施实时监控与拦截，同时设立专门的AI诈骗补偿基金，由平台根据一定比例对受害者遭受的损失进行赔偿。

   

    AI谣言的破坏力相当于“核武器”

    外卖、快递配送等行业是AI谣言重灾区

    被AI蒙骗，并非中老年人的“专利”。

    就在不久前的一个月，正值盛年的“80后”群体不幸成为了AI造谣的牺牲品：一条关于“我国80后累计死亡率高达5.20%”的消息在网络上迅速传播开来。面对这一情况，中国人民大学教授李婷公开发声，对此进行了澄清和辟谣。

    称，这一虚假数据很有可能“来源于AI大模型的错误”。

    AI谣言主要涉足哪些行业？根据清华大学新闻与传播学院新媒体研究中心于2024年4月发布的研究报告，近期AI谣言中，经济与企业领域的谣言占据了主导地位，占比高达43.71%。特别是过去一年，这类谣言的数量增长速度迅猛，增速达到了99.91%。在这些谣言中，餐饮外卖、快递配送等行业成为了AI谣言的高发区域。

    AI谣言的破坏性究竟如何？清华大学新闻与传播学院的陆洪磊副教授以比喻的形式阐述了这一点：他提到，互联网的兴起使得谣言从“冷兵器”时代过渡到了“热兵器”时代，而AI谣言的破坏力则堪比“核武器”。当前，我们正面临一场史无前例的认知战争。

    AI文字谣言更难甄别

    雷军曾在网上被骂了8天

    1月7日，西藏定日县遭遇6.8级地震，引发了无数网友的关切。一张描绘孩子被埋的图片在网络上广泛传播，观者无不为之动容，一时间引发了众多转发和评论。然而，实际上，该图片的原始发布时间是2024年11月18日，并且图片作者明确指出它是通过人工智能技术生成的。

    除了AI生产的视频、图片，还有更难以甄别的AI文字谣言。

    《法治在线》披露，去年一月份，有关“西安突发剧烈爆炸声”的不实信息在互联网上迅速扩散开来。经过核实，发现散布这一谣言的账号属于江西某MCN公司，其发布的内容，包括文字和图片，均系人工智能技术生成。

   

    其核心操作流程在于，将特定关键词指令输入至人工智能系统，随后系统将自动产出数百至数千字的文字内容，并搭配数张看似与事件相关的图片，精心编织出一篇看似真实的虚假信息。

    警方调查结果显示，该MCN机构每日能产出文章数量高达4000至7000篇，其中单篇流量最高的文章收益竟高达700元。据此推算，该机构日收入至少超过万元。

    陆洪磊指出，目前AI生成的文本在语义一致性方面极高，以至于连专家学者都难以分辨。在检测AI文字谣言的过程中，很多时候必须深入挖掘其意义表达来进行判断，而目前尚无特别有效的手段能够有效攻克这一问题。

    常言道，“谣言一传开，澄清却需费时费力。”在应对AI诈骗所涉及的维权与辟谣过程中，所需投入的成本极高，且难度极大。全国人大代表、小米公司创始人雷军公开表示，他和公司都曾遭受网络谣言和水军等问题的侵扰，成为了受害者。几年前，一些自媒体散布了关于小米公司被证监会调查的虚假信息，导致我们的股价下跌了8%。当天，相关部门及时出面进行了辟谣。然而，我无法提供证据证明这造成了50万元的损失，因为股价的波动受多种因素影响。

    雷军表示，他在网络上遭受了长达8天的谩骂，所受损失难以用具体数字衡量。他提出建议，应当有针对性地强化立法措施，以有效遏制网络谣言的传播和恶意水军的不当举动。

    法律与技术双重干预

    AI立法已经在路上了

    2月21日，中央网信办对外公布2025年“清朗”系列专项行动的具体整治要点，其中重点强调了针对AI技术滥用的整治措施。专项行动特别强调了AI技术的管理以及信息内容的管理，旨在加强生成合成内容的标识管理，严厉打击利用AI技术制造和传播虚假信息的行为，以及网络水军等不当行为，以规范AI应用的网络生态环境。

    技术发展日新月异，行业规范尚未成型，然而，人们普遍认同：治理谣言需要法律和技术的双重手段介入。

    这也正是今年两会期间代表委员关注的焦点。

    吕红兵，全国政协委员及中华全国律师协会监事长，指出人工智能立法所面临的问题：技术发展迅速，调整对象难以确定；技术产业更新迭代，社会关系亦充满不确定性；风险类型和程度难以预测。鉴于此，他提出，制定一部既能解决当前问题，又能兼顾未来的人工智能法极具挑战。他建议，可以从社会最关注、最直接、最现实的问题入手，即生成式人工智能，迅速推进“小、快、灵”的立法进程，并尽早发布行政法规。

    令人振奋的消息传来，人工智能领域的立法工作正在稳步推进。在今年的全国两会上，全国人大常委会的工作报告中明确提出，到2025年，我国将针对人工智能、数字经济、大数据等新兴行业，加大立法研究的力度。