以假乱真?国家终于出手了,不仅是李梓萌被牵连,全红婵也没逃过

“家人们,这个深海多烯鱼油你们得试试,包治百病”。

记得上一个卖“神药”的还是赵本山,现在又出来一个卖“神药”的。

你敢想还是央视主持人?在直播间里疯狂叫卖,口口声声说这“神药”有央视把关,绝对有保障!

又能改善头晕手麻,还能恢复记忆?

李梓萌到底是被下药了,还是她被做局了。

了解后才知道,李梓萌本人根本都不知道这件事情,完全就是被AI给克隆了。

这波“狸猫换太子”的戏份,那真叫一个绝啊。

这下国家都忍不了了,直接出手开始彻查,这一查才发现,遭殃的可不止李梓萌一个人啊。

卖鱼油的“李梓萌”

早在之前,《王牌对王牌》就做过一期 AI 反诈特辑。

现场直接演示 AI 换脸,然后给身边的亲朋好友打视频。

画面一出来,有的人可能细看能看出不是本人,比如肤色边缘有点模糊,但有的人真的分辨不出来。

甚至有人跟 “假家人” 打完电话,挂了才反应过来对方根本不是本人。

节目组说做这期节目,就是因为当时网上的 AI 诈骗已经越来越多,尤其针对老年人,稍微不留意就容易上当。

类似的 AI 诈骗并非个例,这不,近期就出现一个。

有段视频里显示,央视主持人李梓萌坐在电视台演播厅里,嘴里介绍着一款鱼油产品。

她说得特别肯定,说这鱼油能治头晕头痛、手麻脚麻,还能改善记忆力下降,讲完还反复强调 “央视推荐,绝对有保障”。

不少人一看是李梓萌推荐,还有央视背书,根本没细查产品到底是什么,直接疯狂下单,有的买完还特意分享给家里人,让爸妈、兄弟姐妹都跟着买。

其中有个网友买了不少,吃了一段时间后发现,头晕手麻的毛病一点没改善,这才觉得不对劲。

然后查了查产品执行标准发现,所谓的 “治病鱼油” 其实就是糖果类食品,连保健品的资质都没有,更别说治病功效了。

这时候,他才知道自己被骗了,又气又急,赶紧联系了其他买过这款鱼油的消费者,一起集体举报。

市监局接到举报后立刻介入调查,但查着查着发现个特别奇怪的情况。

因为从卖货的直播录像里看,确实是李梓萌,声音也几乎一模一样。

不过,通过各种技术对比能发现,虽然样子很像,可是说话的时候口型有略微延迟,跟声音对不上,而且动作幅度一大,脸部画面还会有点跟不上,显得不自然。

为了确认情况,办案人员专门联系了央视,央视那边明确回复,李梓萌当时正在筹备新节目,根本没有时间直播卖鱼油。

这么一来,真相就清楚了,李梓萌是被 AI 克隆了。

接着查下去,背后的操作更让人吃惊。

原来,这群不法商家是在网上找了李梓萌之前的节目片段、新闻视频,然后将素材上传到一个合成软件里,合成了那段推荐鱼油的视频。

做好视频以后,还特意把背景 P 成她平时工作的演播厅工作台,故意装成 “趁节目空闲直播” 的样子,让人更难分辨。

李梓萌知道这件事后,也都懵了,赶紧出来在官方平台上澄清,还找了律师处理相关法律问题。

这件事情在网上越闹越大,大家也发现,AI造假的事情已经不是一次两次了。不光是主持人遭殃,连奥运冠军全红婵也没躲过这事儿。

Ai乱象层出不穷,全红婵也没躲过

2025 年上半年,网上突然冒出来好多自称‘全红婵’的小号,像 “全红婵爱运动”“婵宝农家铺” 之类的。

这些小号发的内容全是全红婵推荐土鸡蛋的视频,里面的 “全红婵” 拿着鸡蛋说什么吃了这个鸡蛋训练都有劲儿了。

除此之外,有时候视频里还会出现 “全红婵的哥哥”“全红婵妈妈”,也跟着帮着推荐土鸡蛋。

更离谱的是,点进商品链接还会发现,鸡蛋包装上还 P 了一张全红婵的广告图,乍一看还真以为是全红婵代言的。

就这么以假乱真,这鸡蛋还真卖出去不少!

可了解全红婵的人都知道,那段时间她根本没空干这个。当时她正在广东队专心训练,忙着克服发育关,每天练好几个小时跳水,连手机都很少碰,哪有时间卖鸡蛋?

全红婵的家人知道这些假账号后,也第一时间出来辟谣,可架不住骗子换账号换得快,注销一个又开一个,还是有部分人没分清真假,上了当买了鸡蛋。​

不过,为什么克隆名人招摇撞骗的乱象频频出现呢?

说出来你可能不信,其实就是因为成本太低了。

他们在网上随便搜搜就能找到名人的视频素材,传到 AI 合成软件里,调成自己想要的内容,也就 10 分钟左右。

可一旦把合成视频放到直播间,挂小黄车卖货,赚的钱却不少。

就像卖土鸡蛋的那些账号,一场直播下来就能赚好几万,之前骗卖鱼油的那伙人,光被查出来的涉案金额就超过百万!​

幸好,这次骗子没有如愿得逞,国家很快出手了!

李梓萌这个案子,成了北京市场监管部门查处的首个 AI 虚假广告案,警方很快就锁定了幕后黑手,把涉案的几个人全都抓了。

除了抓人、罚款,监管部门还要求各大直播平台升级技术,现在平台必须装能自动识别 AI 合成内容的系统,一旦检测到合成视频,就会自动标红提示观众。

而且所有主播都得实名登记,就算是小号,也必须绑定本人身份证才能开播。

之前没及时识别出李梓萌 AI 视频的那个平台,还被罚款 20 万,停业整改了半个月才恢复直播功能。​

结语

最后也得提醒大家,现在网上刷到名人推荐产品的内容,别光看脸就信了,先去查下有没有官方账号。

比如李梓萌的官方账号就叫 “央视李梓萌”,全红婵的官方账号就是 “全红婵”,没有多余的后缀和特殊符号。

然后,再看看主播主页有没有 “实名标识”,要是碰到 “名人直播卖货”,却没提任何官方活动,也拿不出产品正规资质,那十有八九是假的。

别像那些买鱼油的人一样,花了钱还糟心,最后啥用没有,咱老百姓的钱也不是大风刮来的!

参考信息:

眉山
上一篇:{loop type="arclist" row=1 }{$vo.title}