在互联网上
奥运冠军的“声音”
突然开始推销农产品
知名演员的“声音”
24小时不间断在直播间与粉丝互动……
这背后到底隐藏着什么灰色产业链？
PART1
利用AI仿冒奥运冠军声音带货
背后潜藏灰色产业链
在抖音平台上有网络博主
利用AI仿冒奥运冠军全红婵的声音
带货土鸡蛋的视频
大量粉丝误以为这就是全红婵本人
纷纷下单购买链接中的鸡蛋
今年4月，全红婵家人曾向媒体证实
全红婵并未给相关农产品代言或授权
除全红婵外
奥运冠军孙颖莎和王楚钦
也遭遇了同样的仿冒
AI仿冒名人的乱象远不止带货
还有部分自媒体博主克隆名人声音
进行24小时语音直播
据网络安全专家潘季明介绍
通过仿冒名人进行直播
不仅可以诱骗粉丝打赏获利
还可将一个小白账号
迅速打造成上万粉丝的账号
从而为后续牟利来铺路
PART2
一键盗声仅需十几秒
最大隐患是被诈骗分子利用
网络安全专家潘季明介绍
基于开源的语音大模型
只需一段清晰的语音样本
任何人的声音都可能在极短时间内被克隆
并能被操纵说出攻击者设定的任意内容
潘季明表示，除了侵犯声音权等合法权益，AI克隆声音目前最大的隐患是被诈骗分子利用，一旦与AI换脸等技术结合，生成高度逼真的“数字人”实施诈骗，危害将非常严重。
反诈小贴士
01
多重验证，确认身份
在涉及金钱、财产等重要事项时，可要求对方提供更多证据，进行更多交流，尤其涉及“朋友”“领导”等熟人要求转账、汇款的，务必通过见面等多种途径核实确认，不要未经核实随意转账汇款。
02
保护个人信息，谨慎分享
AI诈骗是隐私信息泄露与诈骗陷阱的结合，因此，要加强对个人隐私的保护，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等。不管是在互联网还是社交软件上，尽量避免过多地泄露自己的信息，以免被骗子“精准围猎”。
03
提高安全意识，确保各类账号安全
避免在不可信的网络平台上下载未知来源的应用程序，不打开来路不明的邮件附件，不点陌生链接，不随便添加陌生好友，防止手机、电脑中病毒，以及微信、QQ等被盗号。
来源：昌吉州党委网信办、央视新闻微信公众号
编辑：赵文婷
监审：张效婧
终审：吴 涛
关注我们 了解更多
发布网信政务信息
解读网信政策法规
热门跟贴