打开网易新闻 查看精彩图片

四月的杭州,芳菲满天。

韩蒙却无暇赏春。这位80年代末出生在东北边陲小镇的创业者,正带领他的君同未来埋头做一件少有人做、却越来越重要的事:专治AI说谎、出幻觉,让AI更可靠地“干活”。

具体来说,就是检测大模型的风险漏洞、矫正认知偏差,解决AI胡言乱语、暗藏偏见、被恶意利用以及识别生成内容等种种不可信的问题。

听起来或许有些抽象,不妨看两个真实案例:一是“当豆包成为生鲜电商的敌人”,一些消费者在网上买了水果,然后用豆包等AI工具可以生成以假乱真的“坏果图”去申请“仅退款”;二是近日登上热搜的“小龙虾”桌面智能体不断出现自做主张删除本机文件并把密码发送给服务器 的行为。

打开网易新闻 查看精彩图片

韩蒙公司的产品,能检测和识别图像、视频、音频、文本等多种形态的生成内容,帮助企业判断:这张“坏果图”到底是不是AI生成的?那个本应来帮我们干活的“小龙虾”有没有批量删除文件、传输密码的风险意图或行为?

凭借这样的刚需,君同未来刚成立就获得了数千万元的融资,不到两年就已实现盈利,服务客户包括 工信部 、公安部下属机构,以及字节跳动、海康威视、蚂蚁集团、太平洋保险等头部企业,在AI风险评测与可信增强这条赛道上填补了国内工具链的空白,还主导或参与了30余项国际、国家、行业及团体标准 。

而这一切的起点,得从北纬50度的极寒记忆说起。

打开网易新闻 查看精彩图片

从边陲小镇出发

韩蒙出生于大兴安岭,中国最北端的一个小镇,名字还有点拗口:加格达奇。在这里,一年之始是漫长的冬季,气温常低至零下42摄氏度。小时候父母经常对他说的一句话是:“别(‌biè)出去,不然一下子就冻透了”。

韩蒙的母亲是老师,父亲是公务员,他是典型的小镇做题家。高中就读于省重点中学,大学考上了黑龙江大学计算机学院与软件学院共建的拔尖实验班,硕士师从哈尔滨工业大学海量数据计算研究中心主任李建中教授。

李建中是国内海量数据计算领域的泰斗级人物。三年硕士生涯中,韩蒙在《计算机学报》《软件学报》等国家一级学报上发表了多篇科研论文,并荣获 中国数 据库学术会议最 佳学 生论文奖。

硕士毕业后,他远渡重洋,先后在佐治亚州立大学和佐治亚理工学院深造,最终获得计算机科学博士学位与工商管理学硕士学位。

2017年,而立之年的韩蒙选择到肯尼索州立大学任教,并组建了自己的研究组。那一年,人工智能灰暗的前景因为AlphaGo的出现照进了一缕阳光。在乌镇,世界第一的柯洁被斩落马下,留下遗憾的泪水。

与此同时,一篇名为《愚弄深度神经网络的单像素攻击》(《One pixel attack for fooling deep neural networks》)的论文也抓住了韩蒙等该领域研究者的内心,“它核心讲的是模型的认知可能会因为一个像素这样微小的变化得出与人类认知完全相反的结果。”

韩蒙判断,随着AI能力的进一步提升,这种“牵一发动全身”的风险会越来越大。AI出错对应的正是能提供对应产品公司的机会。几年后,GPT 3.0横空出世,把韩蒙和他的研究推到了金矿旁。

打开网易新闻 查看精彩图片

几回魂梦与君同

2020年前后,韩蒙的人生迎来了家庭和事业的双丰收,孩子出生并随后获得了终身教职。但没过多久,他就决定回国。

这一决定和当年出现的关键变量有关。那年,还名不见经传的OpenAI发布了GPT-3,它拥有1750亿参数,已经展现出AI进行通用推理的巨大潜力。

“当时太兴奋了,几乎每节课都在给学生讲。”韩蒙这样形容当时的心情。随后,一颗想要自己做点什么的火苗在他心中升起,超越于互联网时代的智能化时代就在眼前,“那种‘不想缺席’的感觉越来越强烈——想要参与进去,做点什么。”

回国后,韩蒙与另一位国内的学者林昶廷正式合伙创业,林昶廷是浙江大学计算机科学与技术博士、网络空间安全博士后。两人在浙江大学尹建伟教授领衔的浙江大学滨江研究院平台下开始了创业之旅,并 成为国 内较早专门从事AI治理风险的创业团队。

2024年6月,公司正式注册成立。名字出自宋代知名词人晏几道的《鹧鸪天》:“从别后,忆相逢,几回魂梦与君同。”在美国10多年,韩蒙的乡愁与日俱增,“有几次做梦也梦到回家。‘君同’两个字就这么来了。”

英文名GenTel则是一语双关:既是“绅士的”(Gentle),也是Generated Intelligence(生成智能)的简写。“像给孩子起名一样认真。”韩蒙笑着说。

打开网易新闻 查看精彩图片

做AI的“好医生”

关于君同未来做什么,其实牵扯到人工智能发展的两大流派。

当前主流大模型基于连接主义,在感知与生成能力上取得突破,本质仍是基于数据驱动的概率系统。但连接主义面临着一个核心问题:它只是“看起来对”,不可解释、也不能确定、无法保证逻辑一致性(典型就是幻觉)。

相比之下,符号主义天然支持因果推理、规则推理、规划 , 这两者结合可以让模型从“像人说话”升级为“像人思考”,从而可以支撑金融、医疗、法律的复杂且不容有错的严肃决策。

“我们做的,就是用符号学派的工具给AI做评测和校正,推着它从概率智能,一步步走向可验证、可解释、可信赖的智能系统。”韩蒙说。

从韩蒙团队这些年的客户来看,即便是国内头部的大模型,在使用过程中也会面临各种风险,最常见的是合规、幻觉、侵权 等 等。

打开网易新闻 查看精彩图片

所以他们研发了面向企业生产应用级的AI信任体系,在大模型风险评测、可信增强与防护管控领域,攻克了形式化难、意图识别以及幻觉缓解等相关的多 个关键 难题。

两套系统“君合”与“君盾”,前者为生成式人工智能以及智能体的评测验证系统,检测项目丰富且漏洞识别能力精准,可在AI部署到具体场景前发现潜在风险隐患,后者是生成式人工智能防护管控系统,依托数百项风险检测算法与智能动态主动防护技术,在问题尚未出现时实现无感防护,发现问题后可以开药治疗。

通俗点来说,它们是AI的“体检医生”,还能针对性地开方治病,甚至治未病,让大家更好地使用AI。“就像医生一样,提前发现身体的疾病信号。”

AI可信远不只是安全问题
打开网易新闻 查看精彩图片
AI可信远不只是安全问题

韩蒙特别强调一个概念:认知对齐。“对于智能来说,无论是机器AI还是人,推理认知并不是找一个边界,而是一个区间。”。

举例来说, 目前市面上 绝大多数文生图工具都会设置一些关键词以防止侵权,比如用户直接让AI生成唐老鸭时,可能会触发系统告知侵权风险。

但当一些聪明的用户告诉AI,“生成一只很有名的鸭子,大众熟知的,有橙黄色的嘴、脚和蹼,身上穿的是方特罗伊水手装,但没有穿裤子。”结果AI会乖乖根据训练数据中可能最为知名的信息为基础生成一只“非常接近”唐老鸭的鸭子。

这就是AI在版权识别上的盲区,近期AI短剧侵权问题引发广泛关注,多个短剧平台上出现未经授权盗用艺人肖像及声音的AI短剧,君同也和多个第三方版权公司合作推进这样一些延展业务。

“所以,各行各业都在努力 地 让AI与业务的区间相对齐,我们就是帮助大家把区间会带来不可接受风险的边界找出来,并且保障好。”

打开网易新闻 查看精彩图片

再比如,AI在识别意图方面和人类存在偏差:当一个妈妈对小孩说“再不回家你就不要回家了”,究竟是回家还是不回家,AI很难理解这句话背后的良苦用心。

君同 的 实现对齐的方式是将现实世界中的概念泛化并映射到模型中,对这类相关概念带来的风险进行有效阻断、识别和处置,并依据模型运行过程的需求动态更新。

打开网易新闻 查看精彩图片

一本“管”虾手册

君同未来的使命是“助力人类基础脑力劳动可信替代”。最近爆火的OpenClaw小龙虾已经为大家做了科普:个人用户可以轻松部署本地AI智能体助手,让它们替代一些基础的脑力劳动。

但问题也随之而来,“如果这个智能体偷偷把你的文件删除了,修改了呢?”韩蒙表示,如果想要杜绝这一现象,最直接的做法就是每一步都和用户确认,但这又不现实,“如果每个环节它都来问你,很多时候你会说还不如我们自己来做。”

为此,君同推出了TrustClaw,基于OpenClaw构建,深度融合专业风险识别引擎,以“可信、可控、可审计”为核心设计理念,帮助大家更好地“养龙虾”。

据Gartner预测,到2027年超过75%的企业员工将使用某种形式的桌面智能体。对企业而言,这是一场静默的失控,IT部门完全不知道企业网络中有多少只“虾”在运行,它们分布在哪些主机上,手握文件系统、网络通信等强大权限,却游离在所有安全管控体系之外。

君同还紧急推出了一本“捉虾手册”,帮助解决企业的这些烦恼,其背后是君同多年积累的AI治理成果。

数据显示,2025年我国人工智能企业数量超过6000家,核心产业规模预计突破1.2万亿元。现如今,AI模型和工具正处于快速迭代过程中,而君同所做的工作,就是在每一次变化升级中提供工具,让AI更可靠、更可控。

“我们只要能够有效发现、缓解乃至部分处置风险,对AI的落地就有很大的帮助了,这个市场空间是与整个AI发展 的市场 相伴共生的。”

打开网易新闻 查看精彩图片

冷和漫长的等待从来都不是问题

目前,君同有50多号员工,几乎都是硕博士。去年10月以前公司还没有专业的销售团队,行政、招聘等岗位一度都由算法 兼职 ,即便这样,公司也已经实现了盈利。

在韩蒙看来,员工人数并不是衡量一家企业大小的标准,未来的公司形态更像是一个由人和AI共同构成、通过明确协议规则进行互动、能够持续演化的智能体网络。

公司的不少员工也曾经是韩蒙的学生或实习生。他们有一个“传统”:每年寒暑假,世界各地会有很多同学到支撑公司的浙大科研实验室实习,他们纯做科研,不涉及公司具体业务。

“我们在一定程度上回归了科研(research)的初心。”韩蒙说,做得好的学生,他会帮忙写推荐信,让他们前往世界各地的名校深造,当然也有人会选择留下。“他理解员工所追求的不只是薪酬,让他们 有成就感 ,发挥更多的主观能动性。

打开网易新闻 查看精彩图片

从大学老师转型为创业者,韩蒙兼具两种视角,更能多角度看待问题。对于行业竞争,他有着东北人特有的幽默和豁达:“有了友商,这个行业才算存在。在刚回国完全没有友商的那个两年,客户对AI的使用也不多。”

他希望有更多的竞争对手加入,一起教育市场。“有时候都不敢想,我们这么一个初创公司,已经主导或参与国际、国家、行业及团体标准30余项了。”

在韩蒙看来,虽然AI的每一次发展都有波峰波谷,前一步可能是寒冬,也可能是春暖花开。

但对这个从大兴安岭走出来的小伙子来说,冷和漫长的等待从来都不是问题。

文 | 刘永丽

因为杭州这家公司,21岁小伙终于学会说谢谢

修车学徒掀翻雅马哈和杜卡迪

一只灵巧手打开强脑科技的另一扇门

点喜欢