大数据文摘授权转载自HyperAI超神经
作者：李宝珠
编辑：三羊
1991 年 3 月 15 日，「消费者之友专题晚会」登上央视的大荧屏，从那一年开始，「3.15 晚会」就成为了像春节联欢晚会一样的固定节目，同样聚集了亿万国人的关注。多年来，围绕老百姓衣食住行方方面面，无数家企业在这个夜晚，被推上「舆论审讯台」，其中不乏大家耳熟能详的知名企业。
意料之中，今年的「3.15 晚会」依然令人义愤填膺、胆颤心惊……
最近几年，随着新兴技术更加深度地融合到人们的生活中，「科技向恶」也悄然滋生，网络安全、数据滥用等问题频频出现在「3.15 晚会」的曝光名单上，今年也不例外。
今晚，被重点曝光的现象有：
* 制造水军的主机板
* 不防火的防火玻璃
* 偷工减料的灭火器
* 梅菜扣肉里的「糟心肉」
* 神乎其神的听花酒
* 信息安全实验室：AI 换脸/拟声诈骗
* 婚恋平台套路深
* 令人不安的宝马传动轴
* 网络借贷中的礼品卡猫腻儿
主机板黑灰产业链：2000 元成本，网络水军可改 IP 地址
晚会一开场便讲到了网络信息安全问题，而源头则是大家最容易忽视的废旧手机，不法商家收集了废旧手机的主机板，集成为「主板机」。
记者探访了云抖科技，负责人表示，其产品可以将 20 块主机板安装到同一个主板机箱内，一台电脑就能控制 20 部手机，相当于 20 个账号，可以一 IP 多机或者一机一 IP。相关厂家甚至在宣传中称，他们制造的主板机，不断叠加起来，就可以组建成千上万台手机的网络矩阵，「需要手机用户参与的一切活动都能够用主板机来操控。」
利用主板机打游戏
此外，云抖科技的负责人介绍道，主板机的主要功能之一就是获客，网上有关主板机的推广视频就是他们用自己的主板机操作的，IP 地址遍布广州、深圳等不同地区。
然而，主板机的违法功能远不止于此。记者在知情人士的帮助下，探访到了云机侠（深圳）科技有限公司，并进入了公司生产、改造主板机的车间。该生产车间外部没有任何标识，内部却在高速运转着一条不法产业链。
云机侠生产车间
记者在云机侠发现，组成主板机的主板并不符合工信部入网标准，那么这些主板是哪儿来的呢？
相关负责人介绍道，这些主板都是从二手手机市场「收来的」，并且相当紧俏。二手手机主板的成本在 100-150 元，一台主板机的成本在 2000 元左右。
云机侠的相关负责人介绍道，目前市场上的主要是用主板机来为直播间充流量、为推广营销文章刷量等等。在记者的坚持下，负责人将记者带到了一位「小客户」的主板机机房，里面摆放了 50 台主板机、内置了 1000 块主板，相当于 1000 台手机。
此外，记者还在探访云承未来科技有限公司时，碰到了前来购买主板机的某电商平台的推广负责人刘经理，据他介绍，公司用主板机是为了广发信息、推广获客，「我只要有你的号码，陌生人发发发，发完就是群链接。海量的信息推广，上钩的消费者还是很多的。」
更加令人震惊的是，随着调查的深入，厂家放松戒备后，将记者带到了一个内置了一万台主板机的机房内，其背后至少是 20 万个账号……
AI 拟声变脸诈骗，财务汇款 186 万
在今年的「信息安全实验室」中，AI 拟声/变脸诈骗被点名曝光。
相信很多读者都对「财务被 AI 变脸视频诈骗，汇款 186 万元」的新闻有深刻印象。陕西西安财务人员张女士接到了老板的视频通话，要求她转账 186 万元到一个指定账号，并且非常紧急。张女士觉得「声音与图像都与本人一样」，就按照要求完成了转账。
而当她按照规定将电子凭证上传到公司财务内部群时，群里的老板看到信息后，却反问她为何汇款，至此，张女士才惊觉被诈骗，立刻报警，并在警察的协助下，拦截了部分汇款，成功保住了 156 万元。
无独有偶，另一位陈女士接到了一通电话，对面是 AI 拟声技术制作的女儿求助音频。
冯先生也接到了来自朋友的跨国视频通话，请求帮忙购买机票。
总结来看，所有人 AI 拟声/换脸诈骗其实都有一个共同的漏洞——短时间通话。
因为音频与视频几乎都是诈骗人员提前利用 AI 仿冒并录制的。究其根本，在点对点的视频通话中，利用换脸或声音合成进行实时诈骗，需要强大的资金与技术支持，包括大量图片采集、专业算法/模型训练、高算力储备等等，并且需要长时间的迭代才能达到逼真的效果。
专业人士提示，在实际生活中，如果遇到可疑视频通话，可以要求对方摸脸或按鼻子，这些动作会造成数据干扰，伪造的脸就会抖动。
近年来，3.15 晚会上的「含 AI 量」越来越高，今晚点名的 AI 拟声/换脸其实在人们的日常生活中也十分常见，并且相关的技术已经具备一定的成熟度，例如，有的算法能够基于孙燕姿的原声音频，生成孙燕姿版「发如雪」、「漠河舞厅」等翻唱，可以说是以假乱真。
在抖音、B 站等视频平台，越来越多的网友也开始借助 AI 生成图片、AI 声音合成等技术开展丰富的二次创作，不过平台方一般都会基于内部检测机制，为该视频打上「内容疑似 AI 生成，谨防上当受骗」的标签。
诚然，技术进步永远是生产力变革的重要引擎，同时，先进技术也可能也是黑灰产业链的温床。
有心之人，完全可以通过一通 AI 客服助理的骚扰电话，获取一段 10 秒的音频数据，进而利用模型生成仿冒音频并进行诈骗。此外，在实际生活中，随着 AI 应用的普及，消费者不可避免地要在公共场合、线上平台利用人脸信息进行身份验证，这一过程中的人脸数据安全问题也应得到重视。
作为消费者，我们也应该提升防范意识，学会利用模型漏洞进行鉴别，尤其是涉及金钱交易时，务必与本人当面确认后再转账。
相信，AI 向恶层出不穷之际，国家层面也会出台更加细化的法律法规予以更加严格的监管与惩治，同时在技术层面，也期待更多反 AI 诈骗新成果。
租！GPU算力
新上线一批4090/A800/H800/H100
特别适合企业级应用
扫码了解详情☝
热门跟贴