多家媒体曝光多起利用AI技术实施欺诈造假、违法违规的典型案例，再次为AI技术的规范使用敲响警钟。据悉，部分不法分子借AI技术钻空子，编造“带货躺赚”骗局收割创业者、利用GEO技术“数据投毒”操控AI输出虚假信息、用AI外呼系统实施电话骚扰，企图逃避监管与法律责任。

打开网易新闻 查看精彩图片

不法分子的核心套路的是利用公众对AI技术的信任与信息差，将中性的AI技术异化为违法工具，其违法成本低、手法隐蔽，不仅损害消费者合法权益，更扰乱市场秩序、破坏数字产业健康发展，透支公众对AI技术的信任。其中，GEO技术本是优化网络内容推荐的手段，却被不法分子用来生成虚假信息、恶意投喂AI大模型，甚至抹黑对手，涉嫌虚假宣传。

从AI换脸变声诈骗到“养老伴侣机器人”骗局，AI技术迭代的同时，各类违规套路也不断翻新。专家指出，技术本身中性，关键在于使用者需心存敬畏、坚守底线，杜绝滥用行为。

当前，AI大模型等新技术深度融入生产生活，规范治理需同步跟进。监管部门与行业协会需落实相关管理办法，出台针对性规范；平台、企业及从业者要坚守法律与道德底线；广大用户需摒弃“躺赚”幻想，理性辨别信息。唯有各方协同发力，规范AI技术使用，坚守科技向善底线，才能防范技术滥用风险，让AI技术真正发挥正向价值。