提到AI,你想到的是什么?是帮你写PPT的打工神器,还是能一键生成大片的生产力工具?
昨晚央视的专题报道,狠狠撕开了生成式AI最肮脏的一面。
一条从售卖教程、兜售“提示词”,到一键换脸、虚拟色情陪伴的黑色产业链,已经极其猖獗了。
你以为生成以假乱真的色情视频,需要什么名牌大学的计算机硕士学历吗?
错,在这个黑产里,门槛只要9块9。
据央视记者实地暗访,现在网上有大量商家在兜售所谓的“AI擦边赛道教程”。他们不卖软件,他们卖的是“提示词”。
在一些视频平台上,央视记者搜索“最强大尺度”等关键词,随即就赫然呈现出了一连串五花八门的“教程视频”。
比如“AI美女大尺度图片生成”,还有更离谱的“成人电影一分钟生成”。
一些博主还示范如何制作“美女视频抖胸效果”。
为博眼球,高调宣称“实力碾压真人演员”。
能看出来,一些平台对真人的擦边视频,确实有着限制规范。
只是对那些打着“技术科普”“保姆级教程”幌子的视频,却似乎选择了“睁一只眼闭一只眼”。
为了绕过各大正规AI软件的审核机制,这帮人绞尽脑汁,把敏感词翻译成冷门英文,用极其精细的物理参数去描述女性的身材、服饰和扭动幅度。
那些“投机取巧”的博主,也就变本加厉。
在利用普通人性格弱点疯狂传播的同时,一些人还将它包装成“赚大钱的手段”。
什么“做擦边自媒体”,“涨粉太快”,“AI擦边赛道日入五位数”。
点开视频,这些“教程”详细阐述着如何一步步“定制”出想要的视频。
第一步,找一张“让你欣喜若狂”或者“小鹿乱撞”的真人照片。
第二步,就需要登陆博主提供的平台,输入文本要求,进行“定向生成”。
技术原本无罪,但在这些特定产业链下,几乎每一步都游走在犯罪的边缘。
比如照片的选用。
这些博主不会明说,你去选怎样的图片。
但很多人看完教程后,实际上就会找一些女明星或者周围朋友的照片。
本质上,是想让照片的中,进入到特定场景,以满足自己的某种虚空幻想。
第一步开始,就已经侵犯了别人的隐私权、肖像权。
其实早在前几年,AI技术刚刚兴起时,这些利用AI行不法之事的恶行,就已经开始萌芽。
2024年3月,法院审理了一宗“涉黄AI换脸案”。
主犯虞某声称:“只要能看到脸的都能换。”
虞某最终因制作、传播淫秽物品牟利罪,被判有期徒刑七年三个月。
在隔壁韩国,利用“AI换脸”引发的恶行,也在普通人群里引发了轩然大波。
最具代表性的,就是“DEEPFAKE”事件。
不少韩国女性怒斥之余,感受到深深的恐慌。
这些组织搭建非法网站,以传播分享为名,吸引众多韩国年轻网友进入。
首页网站上,就清晰标明了不同极具诱惑力的房间群组。
“女秘书房”、“女教师房”、“护士房”、“空姐房”……
甚至还有“家庭房”、“近亲房”。
在群组内,则是各式各样的深度伪造图片及视频。
最可怕的是,沉迷其中的不仅有成年人,还有大量三观尚未成熟的未成年人。
这是用最前沿的算力,在给下一代的大脑里灌输“电子春药”。
从录像带到互联网,再到如今的AI,色情永远是新技术变现最快、也最下作的渠道。
但AI的危险在于,它把“作恶的门槛”降到了历史最低。它赋予了每一个心怀鬼胎的普通人,堪比好莱坞特效团队的造假能力。
好在,监管重拳已经砸下。就在4月10日,国家正式公布了《人工智能拟人化互动服务管理暂行办法》,网信办也全面启动了整治AI技术滥用的专项行动。
技术无罪,但滥用技术的人必须把牢底坐穿!