知名女星发文打假：这种行为很恶劣，称一定追究到底！

每经编辑：杜宇

4月18日，女星张馨予在社交平台发文，称有商家利用AI技术复制其声音售卖减肥药，引发关注。

张馨予表示：“近期发现有品牌Ai复制我的声音，未经授权编造剪辑广告视频，还有减肥药广告，我觉得这样的行为很恶劣。在此说明我从来没有推荐过任何减肥药，有商家利用Ai技术非法剪辑投放广告，我一定追究到底。”

图片来源：张馨予社交平台

评论区，不少网友表示自己此前也刷到过类似的视频，不仔细看很容易被骗。

张馨予曾多次因“减肥”相关话题登上热搜。

2025年2月1日，张馨予发文，自曝一个月胖了9斤，晒出体重称达到了历史新高。

图片来源：张馨予微博

随后，3月27日，张馨予再次发文称：干净饮食才是正确的瘦身思路！鸡蛋西蓝花等可以作为午餐，再加一拳头碳水，粗粮是首选，等于是任意蔬菜、蛋白质、优质碳水为一个组合，目前已经恢复到53公斤啦！接下来加入健身。

张馨予还在评论区回复网友，如果管不住嘴就看看喜欢的身材，比如她自己就喜欢看钟楚曦。

图片来源：张馨予微博

据公开资料显示，张馨予，1987年3月28日出生于江苏省苏州市昆山市，影视女演员，代表作有《封神英雄榜》《武媚娘传奇》《神雕侠侣》。2009年，出演个人首部电视剧《青春进行时》，从而正式进入演艺圈。2014年，因在武侠剧《神雕侠侣》中饰演李莫愁再次受到关注。2015年，凭借古装神话剧《封神英雄榜》入围第17届华鼎奖古装剧最佳女主角奖。2018年8月5日，张馨予宣布与综艺节目《奇兵神犬》中的教官何捷结婚，8月27日，二人在上海举行婚礼。

除了张馨予，还曾有不少明星成为AI伪造视频的素材。

3月5日，演员古天乐、林峯所在的经纪公司发布声明，称有线上游戏平台利用AI技术，将自己的肖像、声音及过往视频片段，合成制作为带有赌博性质的代言宣传片。

经纪公司否认其与有关游戏平台合作，或代言、推广它们的业务，提醒各方人士不要轻信，以免受骗上当。对于盗用两人名义或肖像作虚假宣传或诈骗的行为，公司必然追究。

3月3日，演员刘晓庆回应遭AI换脸：“我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？我在各个平台都叫刘晓庆！”

图片来源：刘晓庆微博

3月4日，小米集团创始人雷军接受央视总台记者专访时表示，“AI技术发展以后，AI换脸、AI拟声在网上已经成为了重灾区，我本人也是主要的受害者，呼吁尽快立法重点整治。”

雷军提出三条具体建议：一是针对“AI换脸拟声”等某一代表性问题，探索推出人工智能单行法，提高立法位阶及其效力，分级分类的基础上进行务实治理，明确“AI换脸拟声”应用的边界红线，完善侵权的证据规则，加大对利用人工智能技术实施犯罪行为的刑事处罚力度。

二是强化行业自律共治，压实平台等各方的责任。支持平台企业开发可精准识别人工智能深度合成内容的技术能力，优化升级通信软件和内容平台巡查审核机制、投诉举报机制、应急处理机制，确保及时阻断问题内容传播。

三是建议加强人工智能方面的法制宣传教育，增强民众的警惕性和鉴别力，聚焦重点人群，在中小学人工智能教材中加入伦理规范内容，深入老年人聚居的社区开展相关知识普及活动，在全社会夯实“以人为本、智能向善”的人工智能发展生态。

据潇湘晨报，在3月5日的政协小组讨论上，全国政协委员、山东籍演员靳东回应了AI换脸导致的诈骗问题。他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”

2024年11月，江西一位老人来到银行办理银行卡，表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。民警查看后发现老人所谓的大明星“靳东”男友是骗子冒充的，视频也是由电脑AI合成。

图片来源：视觉中国

3月6日，就AI换脸这个代表、委员关注的话题，中国传媒大学副教授张鹂对潇湘晨报表示，AI换脸带来的风险，主要体现在三个方面：

一是有不法分子通过AI换脸技术进行诈骗，给普通民众造成财产损失；

二是AI换脸技术孳生了一些灰色产业，例如用AI换脸技术制作冒充教授或明星的视频，甚至发布不当内容；

三是公众人物受到AI换脸技术的侵害，致使个人形象、声誉受损。

张鹂也指出：“AI技术在带来风险的同时，也具有潜在的应用价值。例如在内容生产领域，AI技术让视频制作更加便捷、降本增效，这本身就是生产力的某种释放。因此，对待AI技术不能采取‘一刀切’的态度，不能看到风险就全面禁止其应用。”

张鹂认为，对于普通用户来说，AI换脸技术更像互联网上的一场狂欢，主要用于制作趣味视频，很多其实无伤大雅，如果未明确侵害他人利益，这种娱乐本身也是学习AI技术的途径之一。“技术本无善恶、有利也有弊，其中的边界也比较模糊。”

“假如AI换脸被过度滥用，或许将来某一天，我们不得不在发布真实录制内容时进行声明、强调内容的真实性。如果那一天真的到来，整个社会对真实性的鉴别成本将会非常高，因此目前就要采取办法避免该技术泛滥成灾。”张鹂说。除立法外，公众人物也可以考虑采用这种类似“白名单制度”的方法进行真实性声明。

“人们对于真实的认定门槛的确是在不断提高的，这或许是互联网普及和AI技术发展不可避免的宿命。在技术飞速发展的年代，要通过各种方式增强民众的警惕性和鉴别力，这一点尤为重要。”张鹂说。

每日经济新闻综合央视新闻、潇湘晨报、张馨予微博、刘晓庆微博、公开资料

每日经济新闻