星期
南方农村报
05版: 一周天下
<< 上一版
下一版 >>
版面导航
+
放大
-
缩小
●
默认
AI伪装成“张文宏”深夜带货,多人上当
来源:
南方农村报
时间:
2024年12月14日
版次:
05
最近,有网友发消息称:“张文宏是不是带货了?”视频中,张文宏在卖一种蛋白棒,家里的老人信以为真,已经下单,还转发了很多群。
据媒体报道,这个账号名为“般画 234”。在视频中,“张文宏”反复介绍一种产品,口型是他的,声音也是他的,但稍微懂点AI的小伙伴们,一眼就能分辨,这是AI合成的视频!目前,这段视频已在该账号内不可见,但商品橱窗内,还保留着蛋白棒售卖的页面,并显示已售出1266件。
近年来,AI剪辑冒充明星的案例屡见不鲜,也有不少人因此上当。
今年11月,江西一位老人来到银行办理银行卡,但手续不全又不肯离开,警方到现场后,老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。
民警随即拿起老人的手机进行查看,发现老人所谓的大明星“靳东”是骗子冒充的,其所发布的视频也是由电脑AI合成,但老人对网络知之甚少,对于骗子所说所做深信不疑。
最终,民警通过向老人展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式,老人才幡然醒悟,表示不会再相信网络上的“靳东”,并放弃了开卡贷款的念头。
今年10月,老牌港星黄百鸣在社交媒体上发布声明表示。有人盗用他过去的影片,并利用人工智慧技术替换掉原有声音,假借自家名义代言一个不知名的药膏品牌,这种行为纯属欺诈,旨在误导公众并从中取利。
点 评
AI伪造带货的违法行为可能造成严重后果,绝对不能对其听之任之,采取行之有效的治理手段,协同发力清扫乱象,已是迫在眉睫。希望各方都能拿出实际行动来,加大对这一不良现象的监管和打击力度,让AI真正造福人类,而不是沦为行骗工具。
上一篇:
杭州一中学倡议:16岁前不注册社交账号
下一篇:
上一篇:
杭州一中学倡议:16岁前不注册社交账号
下一篇:
分享: