AI造谣有多疯狂?一天写17万篇文章,马斯克最担忧的事情发生了!
对于AI,马斯克多次强调人类要高度警惕,去年他带着1000多名大佬写联名信,呼吁暂停AI训练。而最近马斯克再次表态:“我最大的恐惧是AI”。 就拿AI造谣来说,已经在全球真实发生,且造成了恶劣的影响。比如在国外,AI编造五角大楼被炸,或者p图明星的不雅照,甚至伪造一些战争视频,影响和谐。 而国内也有类似的情况,比如根据央视报道,有人基于AI开发写文章的软件,1天能生成19万篇文章,而内容全是拼凑来的谣言,谋取流量和利益。 特别是华为、比亚迪和美团这些大家非常关心的民企,本身自带流量,AI造谣成本又低,经常成为网络造谣的受害者,都被他们害惨了。华为甚至专门开了官方辟谣账号,就这两天,还有网络谣言说“华为是国内最大的牛肉进口商”,由此关联肉价波动、国际局势等,简直是无稽之谈。美团也是,上到美团老板王兴,下到美团外卖骑手,都被当成流量密码,被抹黑诋毁几乎就没停过。 根据新华社和清华大学发布的一份研报显示,经济领域已成AI谣言的高发地,餐饮外卖、快递配送等民生行业是AI谣言的重灾区。前段时间国家还公布过一起案例,有人用AI造谣广州将限制外卖配送,哪怕这些谣言最终都被证实是假的,但造成的伤害却很难挽回,这两天还有个之前造谣美团民宿调价的自媒体博主出来道歉了,但道歉视频的播放量跟当时造谣视频的流量,不是一个数量级,相当程度上对行业从业者乃至整个行业的发展,都造成了难以估量的损失。 当然,现在国家也很重视这个问题,近半年3次强调“清朗·优化营商网络环境—整治涉企侵权信息乱象”,力度越来越大。同样,国外也陆续在推出AI监管法案。但愿马斯克的话,能引起全球的重视,用好科技这把“双刃剑”!
对于AI,马斯克多次强调人类要高度警惕,去年他带着1000多名大佬写联名信,呼吁暂停AI训练。而最近马斯克再次表态:“我最大的恐惧是AI”。 就拿AI造谣来说,已经在全球真实发生,且造成了恶劣的影响。比如在国外,AI编造五角大楼被炸,或者p图明星的不雅照,甚至伪造一些战争视频,影响和谐。 而国内也有类似的情况,比如根据央视报道,有人基于AI开发写文章的软件,1天能生成19万篇文章,而内容全是拼凑来的谣言,谋取流量和利益。 特别是华为、比亚迪和美团这些大家非常关心的民企,本身自带流量,AI造谣成本又低,经常成为网络造谣的受害者,都被他们害惨了。华为甚至专门开了官方辟谣账号,就这两天,还有网络谣言说“华为是国内最大的牛肉进口商”,由此关联肉价波动、国际局势等,简直是无稽之谈。美团也是,上到美团老板王兴,下到美团外卖骑手,都被当成流量密码,被抹黑诋毁几乎就没停过。 根据新华社和清华大学发布的一份研报显示,经济领域已成AI谣言的高发地,餐饮外卖、快递配送等民生行业是AI谣言的重灾区。前段时间国家还公布过一起案例,有人用AI造谣广州将限制外卖配送,哪怕这些谣言最终都被证实是假的,但造成的伤害却很难挽回,这两天还有个之前造谣美团民宿调价的自媒体博主出来道歉了,但道歉视频的播放量跟当时造谣视频的流量,不是一个数量级,相当程度上对行业从业者乃至整个行业的发展,都造成了难以估量的损失。 当然,现在国家也很重视这个问题,近半年3次强调“清朗·优化营商网络环境—整治涉企侵权信息乱象”,力度越来越大。同样,国外也陆续在推出AI监管法案。但愿马斯克的话,能引起全球的重视,用好科技这把“双刃剑”!