AI鉴定AI，下一个千亿级的生意|多模态|疯狂|算法

AI警察，吃到了AI红利。

文｜陈只三

编｜园长

AI只用了5年，就追上了全球人类生产内容的速度。

从2020年1月开始，网络研究公司Graphite为了持续追踪互联网上AI生产的内容，抽样调查了54400个URL，同时用Pangram、Copyleaks和GPTZero三种AI鉴定工具检测，如果一篇文章里真人写的内容低于50%，就会判为AI生成。

Graphite发现，在2025年第四季度，互联网上的AI生成内容超过了人类原创的数量，比例达到了50.9%，而这个数字，在2020年1月还是0.97%。准确地说，AI只用了3年，因为AI内容开始狂飙的拐点，是2022年11月OpenAI发布了ChatGPT。

从几乎为0到半壁江山，AI的高产程度直追美洲大蠊，甚至开始挤占人类的创作空间。一些衍生产业趁着产能的爆发，也顺势大发AI财，比如为AI建数据中心的基建商、替服务器散热的能源公司，以及AI鉴定工具。

毕竟AI打得越火热，市场对分辨真伪的需求就越强烈。但如果拉长时间线来看，这未必是一门好生意。

一个直观的信号是，这场防守战的难度正在指数级上升。目前市场上的AI检测工具主要是检测AI文本，但随着Deepfake视频、AI图片和AI音频大量进入互联网，检测范围也从一篇文章的AI含量，扩展到了整个数字世界还有多少真实信息。

这意味着一个令人不安的现实：AI制造的假货正在泛滥。

一个建立在恐惧之上的新行业

如果你已经大学毕业，那看起来AI泛滥对你造成的伤害似乎为0，最多就是上班总要路过还打着AI水印的地铁广告，手机里多了些人机味的文章，在被杀猪盘盯上之前，岁月还是很静好的。

问题是，诈骗分子学习AI的积极性，不输给大厂最卷的牛马。Deepfake（深度伪造）技术已经可以生成非常逼真的图像、声音或视频，哪怕是面对面打视频，也可以实时换脸，这项本来广泛应用在影像制作和虚拟主播身上的技术，到了骗子手里就成了跨国网络诈骗和虚假信息传播的利器。

2024年，香港一家跨国公司的职员收到一封钓鱼邮件，对方自称是英国总部的CFO，把他拉进了一个多人会议，会上的CFO和“同事”，其实都是骗子利用公开视频和音频资料，通过Deepfake技术换的脸，在他们的要求下，这名职员最后把2亿港元转到了骗子的账户里。

首席安全官智库CSO统计，2025年，82.6%的钓鱼邮件使用了AI技术，Deepfake驱动的欺诈攻击激增2137%，AI驱动的网络攻击在全球造成的损失预计高达300亿美元，比起AI文本泛滥带来的资讯爆炸，老百姓更需要提防的是吃到AI技术红利的骗子。

不只是个人，企业也深受其害。今年夏天，湖南衡山县的村民们发现，不管在哪个电商平台下单榴莲或车厘子，只要收货地址填的是衡山县，就会被退单，哪怕发货了也会被拦截。

背后的原因，其实是衡山县的谭某疯狂购买金枕榴莲和车厘子，收到货后用AI给水果一键生成腐烂发霉的痕迹，把照片发给平台客服申请退款，再把榴莲和车厘子挂到闲鱼转卖。

就这样下单了100多笔后，谭某和整个衡山县都被电商平台的水果商家拉进了黑名单。

图源央视网

技术快速迭代的同时也在被滥用，AI公司把昂贵的算力打包成廉价的Token，也降低了伪造和诈骗的门槛，成了学术不端、金融诈骗、电商骗赔的温床。以前大家担心AI能不能创造足够好的内容，现在又开始担心眼前看到的内容还能不能相信。科技便利的暗面，是普遍蔓延的信任危机。

用 AI 鉴定 AI ，正是在这种信任危机中诞生的新产业。表面上， AI 鉴定工具在判断图文或视频是不是 AI 生成，真正解决的，其实是帮企业组织和个人降低因为 AI 造假带来的风险。

全球AI警察，出列

AI文本检测工具是率先吃饱的，瞄准教育市场，这也是当前现金流最稳的To C检测生意。

人不会永远年轻，但永远有年轻的大学生在生产毕业论文，国外检测论文AI代写的平台有Turnitin、GPTZero等，国内的知网、维普网等系统也都上线了自己的AIGC检测服务。

GPTZero成立三年，总共融资了1350万美元，年度经常性收入已经达到3000万美元(约合2.03亿元)。Turnitin的用户人数超过7100万，年收入1.05亿美元（约合7.09亿元）。

国内大部分论文检测工具没有披露自己的盈利模式，但AI文本检测工具大体上都是两头赚，学生们订阅会员，或者按字收费购买查重服务；高校和教育机构则按年打包订购系统的许可授权。

更多的AI检测工具赚的是企业的钱，主要提供API接口、SaaS订阅或定制化解决方案，也是最有增长潜力的部分，客户买的是一份托底保障，而不是100%测得准：

比如，君同未来旗下的AI风险评测系统，既负责检测AI幻觉，也能识别用户的恶意提问，刚成立就在天使轮获得数千万人民币的融资，不到两年已经实现盈利，服务对象包括工信部、字节跳动、海康威视、蚂蚁集团等；中慧创杰研发的“白泽AI”幻觉治理引擎，能为银行智能客服系统实时校验金融术语，给线上智慧门诊校验问诊内容，还为网信部门部署AI内容监管平台，日均处理超200万条AIGC内容，成立三年营收就从50万元跃升至4000万元。

咨询机构Dataintelo的调查报告显示，2025年合成媒体（AI生成内容）检测市场规模为38亿美元（约合257亿元），预计到2034年将达到226亿美元（约合1525亿元），复合年增长率将达到21.9%。

B端市场释放出的庞大需求，让AI鉴定从一项附加功能演变为通用的底层基础设施，连芯片巨头也坐不住了。2026年7月21日，英伟达宣布推出合成视频检测器服务（Synthetic Video Detector NIM），号称可以逐帧识别AI生成的假视频，准确率最高可达92%。

把芯片卖给AI公司，给企业和开发者搭建可以在线部署AI模型的微服务平台NVIDIA NIM，现在又提供AI视频检测服务，在这场AI淘金热里，英伟达可以说是又卖铲子，又卖加工机床，现在还要卖试金石。

由此可见，上桌吃饭的不一定是技术最先进的，往往是那些能将检测工具丝滑地嵌入客户工作流程中的。

面向普通人的多维AI检测工具，大部分还是免费试用模式，技术实用性还需验证。比如腾讯的朱雀AI检测助手和合合信息推出的扫描全能王AI鉴伪小程序，提供检测文本、图片和视频的服务。就在上个月，国家反诈中心APP上线了AI内容鉴定功能，由中科睿鉴提供技术支持，可以上传可疑的视频、语音、图片、文本，一键检测是否存在人工智能生成痕迹，每天有10次检测机会。

我把三个免费产品都试用了几轮（毕竟免费嘛），扫描全能王AI鉴伪小程序和朱雀AI检测助手成功辨认出了AI生成的内容，扫描全能王AI鉴伪小程序会谨慎地告诉我“AI可能性为76.55%,515字疑似AI生成”，国家反诈中心APP在文本和图片上都测准了，视频检测有点翻车：同一个真人拍摄的短视频，一次说是真的，一次说是AI的，看来反诈之路还是任重道远。