不到7个月，一个开源项目在GitHub上攒下超过2万星标；一款心理机器人提供24小时陪伴倾诉服务；一个宠物互动项目从情感需求切进市场。2024年春季超音速计划四强，与RTE开发者社区及各国际赛区的优胜项目共同角逐年度最具代表性场景三强，最终Infiniflow、聊会小天和Traini胜出。
赛后，AGI Founders Fund运营负责人王君辉以特邀观察员身份，与这三个项目做了一场对话。三个团队规模都不大，方向却分得很开：一个做AI原生数据库，一个做心理轻咨询，一个做宠物情感互动。共同点是，技术输出之后，他们都开始直接服务用户了。
Infiniflow：把RAG当成AI时代的数据库
Infiniflow的定位是AI原生数据库，结合大模型共同服务RAG场景，提供完整的行业RAG解决方案。创始人兼CEO张颖峰说，团队的主要任务是挖掘并解决用户在处理多模态非结构化文档时遇到的最大难题。
处理复杂文档，是企业引入大模型功能后的首要任务。张颖峰的逻辑很直接：如果不能从非结构化的多模态文档中准确提取内容，就无法提供准确的问答服务。这是企业实现AI转型和内部升级的关键点。开源之前，并没有类似项目专注这一领域；开源之后，已经有其他开源系统在类似方向上借鉴他们的思路。
开发者画像上，张颖峰没有直接分析地域分布，但通过一些机构反馈的活跃度指标，海外和国内用户大体维持在4:6。海外有大量SaaS用户和开发者，遍布欧洲、东亚和北美；国内甲方乙方都有，行业覆盖IT、金融、制造、医疗生物、教育等。应用场景里，问答客服类目前被认为最具代表性。RAGFlow不是直接面向最终用户和场景的产品，更多作为中间层解决回答质量问题，最终业务通常通过Agent来定义和编排，RAG是这些Agent的基础层。
关于RAG的争论，张颖峰认为目前已经基本平息。去年RAG甚至被称为外挂，今年的焦点变成RAG与长上下文的处理能力，这场争论从年初持续到年中，之后逐渐减弱。他的判断是：企业从未参与这些争论，从一开始企业关注的就是模型的实用性和效果是否达到预期。去年关于微调的争论结果很明显，大多数情况下不需要微调，少数情况下需要微调，但也需要与RAG结合使用。今年关于上下文的结论也很明确——RAG和长上下文不应是对立的，而是互补的。
RAG技术脱颖而出的核心优势在于效果，能够准确地将用户的问题与期望找到的答案匹配。张颖峰说，这是RAG能够实际应用的唯一价值所在。如果RAG无法实现这一效果，大模型在企业中的应用将无法展开。
商业化路径上，张颖峰认为在中国从事B端软件业务的公司面临巨大挑战，因为企业普遍需要定制化服务，这导致许多ToB软件公司最终沦为外包公司。他们坚决避免这一局面，通过开源策略最大化扩大流量入口，同时计划提供面向全球的SaaS服务。国内坚持标准化理念，既面向开发商也面向最终用户：针对开发商更倾向于支持他们提供行业解决方案，针对最终用户则选择与他们的IT团队合作，由他们完成RAGFlow的内部集成。开源增加了企业的市场声音和存在感，提高了转化率。企业版在功能上与开源版有所区别，开源版主要面向个人和中小型场景，企业版提供更进一步的服务和技术保障。张颖峰还提到，对中国企业来说，开源几乎是走向国际市场的必要途径。
他把RAG类比为数字化时代的数据库：标准化的软件是数据库，可定制化的是各种应用和中台系统。传统数据库处理确定性查询，RAG处理非确定性对话。在大模型时代，软件生态会发生重构，应用层变得更薄，业务逻辑的复杂性从应用层转移到了RAG。RAG层里，RAG专用数据库和一系列特定专用的小模型需要协同工作，共同保证最终的问答效果，这种端到端系统的复杂性对用户是隐藏的。
接下来一年，Infiniflow的主要任务有两个：启动商业化进程，以及继续提升产品，包括提高对话能力、确保用户需要的数据能被准确检索出来，并从稳定性和易用性两方面着手。团队规模仅十几人，同时开发两款产品，压力相当大。
聊会小天：技术已成熟，难点在商业化
聊会小天是一款免费心理机器人，提供24小时陪伴倾诉服务，由西湖大学深度学习实验室孵化。联合创始人俞佳说，在采用大模型之前，团队就坚定选择了自监督技术路线，并在实验室中进行了大约一年到一年半的孵化。随着ChatGPT的出现，团队对模型在心理领域的独特性有了更坚定的信心。从技术角度看，走的是大模型路线；在业务层面，通过训练或工程化手段将业务理解融入大模型。
现有技术相较上一代技术的优势，主要体现在语言运用能力的提升，以及对用户表达内容和期望回复的理解能力。这包括两个层面：一是理解用户的实际需求，二是将咨询师的业务理解注入模型回答中的能力。随着模型规模增大，能够更好地遵循业务专家或心理咨询专家的建议。此外，现有技术的泛化能力更强，对于用户的非标准问题和上下文连接，尤其是在长对话中的表现也有所增强。
产品反馈上，俞佳提到，团队收到过用户的实际留言，有用户写信，甚至亲手制作代表品牌的吉祥物或造型泥塑。在数据层面，尽管国内C端产品目前以公益形式运营，但产品在政府和学校以及杭州市第一人民医院的问诊界面中得到了应用，并且有大量用户正在使用。
对于产品定义，俞佳说，聊会小天定位于心理咨询和纯陪伴之间的轻咨询形式。不提供像传统心理咨询那样的严肃服务，例如每周一次、每次50分钟的咨询，也不涉及数字处方或医疗渠道；同时也不完全提供像某些AI产品那样的纯陪伴服务。目标用户群体是那些有心理诉求但并不寻求紧急或严肃心理咨询的人，对于有心理危机情况的用户，也会推荐给政府的心理危机干预热线等。选择这个中间状态的需求，是因为纯陪伴服务可以通过其他产品形态来满足，而心理的服务更倾向于渠道合作或纯ToB模式。产品将与学校和政府合作，但不涉及医疗领域，因为医疗领域对安全性和准确性的要求非常高，目前大模型在这方面还未达到可以落地的状态。
对于专门做心理健康领域的AI应用，俞佳认为在技术上并没有问题，当前的模型能力足以支持轻咨询的逻辑。团队对技术路径充满信心，真正的挑战在于市场和国内大众对心理咨询的认知及接受度。即便不是AI咨询，传统心理咨询同样面临这些挑战。在数据方面，目前数据不是限制因素，但若要进一步提升服务质量，数据将成为一个关键的壁垒或加速器。团队在这一方面具有优势，因为与学校合作，能够与专业的心理机构和学术界的心理学研究人员合作。自2020年以来，积累了丰富的一线实际数据和理论经验。心理数据因其隐私性和保护要求高，通常只能通过实际业务获取，而不能通过爬取、购买或开源方式获得。
产品形态上，聊会小天没有直接做APP，而是先做了小程序，主要考量是降低用户的使用成本。下载APP需要一定的时间和流量，而小程序更容易传播和使用。团队计划将来开发APP，但目前选择使用小程序，因为它们可以更容易地嵌入微信或支付宝等平台。对于国内的企业合作而言，大多数用户在微信中使用小程序已经非常习惯。
交互方式上，团队正在探索未来人机交互的发展趋势，可能包括VR和AR技术的应用。目前专注于开发能够增强用户信任感和沉浸感的技术，尤其是语音交互。语音功能的开发是优先事项，因为它能显著提升用户的活跃度和使用率，且不同的声音特征对用户体验有重要影响。视频交互也是关注的领域，它有助于增强用户与虚拟咨询师之间的信任感。尽管心理咨询中的视觉理解技术仍在实验室阶段，团队正在研究如何通过观察用户的微表情和动作来评估他们对咨询的满意度和进展。目标是确保用户在文字、语音、视频到VR等不同交互模式中都能建立信任感，这是心理咨询效果的关键因素。团队发现，尽管部分用户对AI缺乏初始信任，但产品的透明度有助于用户更容易地进入交流状态，尤其是年轻用户更倾向于接受AI服务，他们不认为与AI讨论深刻话题是愚蠢的。
商业化方面，俞佳认为，用户不愿意为AI心理服务付费的原因，与传统心理咨询服务付费的阻碍相似，主要在于大众对于心理健康服务的心理预算尚未建立。许多人对于花费较高费用进行心理咨询感到难以接受，这种观念同样适用于AI心理服务。聊会小天的商业模式目前以C端的公益服务为主，主要收入来源是与B端的政府和学校合作。虽然产品既有面向C端的轻咨询类服务，也有更注重陪伴感的C端产品，但团队对这一领域持长期乐观态度，并持续投入发展。
对于未来，俞佳说，西湖心辰被视为一家专注于AI大模型的公司。团队认为，这个时代的AI公司必须能够实现商业化，类似于上一个时代的公司也实现了商业化，但更倾向于ToB模式。团队的认知是，AI公司必须具备能够直接服务用户的能力，而不仅仅是作为一个技术输出的状态。
热门跟贴