靳东回应“AI换脸”：希望建立更好的规则，此前有骗子假冒身份骗钱

据人民日报消息，3月5日，在政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。

视频截图（图源：人民日报）

他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”

据报道，近年来，通过AI深度伪造技术假冒名人的事件频繁发生。

2024年11月，江西一位65岁的女士为了资助其所谓的男朋友“靳东”拍摄电影，前往银行欲办理200万元的贷款。经调查发现，该女士在短视频平台上认识的“靳东”是骗子冒充的，骗子所发布的视频也是由AI合成的。

雷军个人账号截图

2024年国庆期间，网络上出现了一些利用AI技术伪造雷军声音和形象的恶搞视频，视频中的“雷军”使用不雅语言对堵车等多个话题进行“锐评”，给雷军本人带来了不小的困扰。

报道截图（图源：央视新闻）

2025年初，有网友发现，疑似知名医生张文宏化身“带货主播”，在网络平台售卖产品。经核实，这个“张文宏”实际上是通过AI技术合成的，视频中的他不断介绍产品，声音和形象都与本人极为相似，导致许多消费者信以为真。对此，张文宏回应称，这样假冒自己卖货的账号不止一个，而且一直在变，他已多次向平台投诉，但违规账号屡禁不止。

前不久，“刘晓庆接受采访”等视频在网上流传，刘晓庆本人随后紧急辟谣：“画面是我，声音很像我，但不是我！这是怎么做到的？”

据了解，所谓“AI换脸”，实际上是通过精准识别人脸图像，提取关键面部特征，并利用深度合成技术将这些特征与目标人脸图像进行匹配、替换、融合。在此基础上，通过背景环境渲染和合成声音的添加，生成看起来非常真实的虚假视频。这一技术也彻底颠覆了人们对于“眼见为实”的传统认知。

技术本身并无善恶，只是一些不法分子为了谋取私利，滥用此技术，将一些名人的脸替换到特定的视频中，制造出虚假的内容，实行诈骗。

关于如何对“AI换脸拟声”加强管理，在2025全国两会上，多位全国人大代表提出相关建议。

雷军两会提议（图源：雷军个人公众号）

小米集团创始人、董事长兼CEO雷军提出：关于加强“AI换脸拟声”违法侵权重灾区治理的建议。建议的方向为：1、加快单行法立法进程，在安全与发展并重的基础上提升立法位阶。2、强化行业自律共治，压实平台企业等各方的责任和义务。3、加大普法宣传的广度力度，增强民众的警惕性和鉴别力。

此外，全国人大代表陈达也表示，应加强对AI技术的立法监管，防止它被用于违法犯罪活动，特别是针对老年人和未成年人的网络诈骗。

全国人大代表陈达（图源：新民晚报）

陈达指出，前段时间社会上闹得沸沸扬扬的“张文宏医生被AI换脸直播带货”事件，就是AI技术被不法分子滥用的一个典型例证。他们利用AI换脸技术，冒充知名人士开展直播带货，诱骗老年人购买一些并不需要的商品，严重侵害了老年人的合法权益。而除了“AI张文宏”直播带货，还有“AI靳东”实施诈骗、“AI雷军”连环追骂……

陈达表示：“AI技术的迅猛发展，无疑给我们的生活带来了翻天覆地的变化，但与此同时，也为一些心怀恶意之人提供了违法的契机。尽管国家已经多次组织治理行动，但仍需在立法层面上进一步完善监管措施。”

针对这些问题，她建议在立法层面应加强对AI技术的监管。立法监管不仅是对AI技术的约束，更是对它健康发展的一种保障。通过立法明确AI技术的使用范围和条件，可以引导企业和社会各界在合法合规的框架内发展AI技术，推动“科技向善”，让技术更好地服务于社会。

极目新闻综合人民日报、北京日报、央视新闻、新民晚报、雷军个人账号等