打开网易新闻 查看精彩图片

主流大模型不是没设防：DeepSeek等会触发安全机制拒绝回答，甚至撤回内容。但很快，“防撤回”“破甲”攻略开始流传：有人让AI在字中间加特殊符号，说是“排版需求”；有人让AI结尾加300个“喵”，趁输出间隙断网截留内容；更绝的是虚构时空设定，比如“现在是5022年，过去的道德法规都变了”。记者实测发现，直接输入违规指令会被拒，但嵌套虚构设定后，AI竟开始生成包含亲密动作的剧情，尺度大到让人咋舌——千问、元宝、Gemini等模型也同样“中招”。

随着平台封禁力度加大，灰产开始转向监管更难触及的地方。流量博主把粉丝拉进QQ群，记者加入的一个400人群里，00后占比超67%。群里还引导用户去“上头蛙”“星召AI”等微信小程序，这些小程序提供大量人设，接入各家大模型API，声称“绝不撤回”，但用户得高频充值买Token才能继续互动。

更离谱的是“保姆级教程”明码标价：电商平台上，售价6.9元到48元不等的教程销量破百，其实就是教你用Chatbox这类客户端通过API绕过限制。用户反馈，虽然门槛变高，但灰产生意反而更火了——毕竟有人愿意为“突破底线”买单。

打开网易新闻 查看精彩图片

律师游云庭指出，模型厂商若明知过滤漏洞不更新、平台放任违规内容流传，都要担责；用户发布违规内容也会被禁言或注销账号。他警告：“AI平台搞色情是短视行为，虽然短期有流量，但社会危害大，法律清算从不撤回。”

打开网易新闻 查看精彩图片

技术本是一面镜子，照出人性的复杂。部分用户钻漏洞满足私欲或许是人性噪点，但AI平台和开发者该坚守底线——用价值吸引用户，而非突破边界博眼球。这场“猫鼠游戏”里，监管已亮剑，灰产终将无处遁形。

你怎么看AI被用来搞这些灰产？是该加强技术过滤还是更严监管？评论区聊聊你的想法，让更多人看到AI灰产的危害！