2024中国生成式AI大会上海站圆满收官，第二日AI Infra峰会演讲精华一文看尽！|infra|king|上海市|向量|大模型|智能体|算法|高雪峰

智东西12月6日报道，为期两天的2024中国生成式AI大会（上海站）今日圆满收官。

两天内，51位产学研投嘉宾代表密集输出干货爆棚，大会报名咨询人数超4000人，超过1200位观众到场参会。其中，在主会场进行的大模型峰会、AI Infra峰会的线上观看人次更是超过104万。

现场参会观众们的热情十分高涨，主会场、分会场座无虚席，展览区附近的产业交流也十分活跃，15家企业的诸多新产品新技术都引起了广泛关注和讨论。

▲大会展区

此次大会以“智能跃进创造无限”为主题，51位产学研投嘉宾代表基于前瞻性视角解构和把脉生成式AI的技术产品创新、商业落地解法、未来趋势走向与前沿研究焦点。

今天的AI Infra峰会上，上海交通大学副教授、无问芯穹联合创始人兼首席科学家戴国浩认为，业界更应该关注单位算力如何实现更高效的token吞吐，大模型实际可用算力不仅取决于芯片理论算力，还可通过软硬协同优化提高算力利用效率，通过多元异构适配放大整体算力规模。

北电数智智算云负责人郭文，GMI Cloud亚太区总裁King.Cui，阿里云智算集群产品解决方案负责人丛培岩，中昊芯英芯片软件栈负责人朱国梁，光羽芯辰创始人兼董事长周强分别对全栈AI工厂、AI企业出海如何补齐算力短板、高性能智算集群、国产TPU芯片“No CUDA”软件栈、通向个人大模型之路几个主题进行了分享。

枫清科技创始人兼CEO高雪峰，声网生成式AI产品负责人毛玉杰，腾讯云向量数据库技术负责人谢宇，Jina AI联合创始人兼首席技术官王楠，Zilliz合伙人、研发VP栾小凡，英飞流创始人兼CEO张颖峰，Alluxio首席架构师傅正佳分别针对“从数据到知识：AI重塑百行千业的基石”、“生成式AI驱动实时互动的技术变革与体验革新”、“TencentVDB向量数据库”、“RAG范式下AI Infra的机遇和挑战”、“RAG虽强，但向量数据库绝非万灵药”、“新一代企业级多模态RAG引擎”、“高性能AI数据底座”带来了精彩演讲。

下午场的圆桌讨论聚焦“大模型行至深水区，AI Infra的新变化与新机会”，由德联资本执行董事刘景媛主持，Alluxio首席架构师傅正佳，Zilliz合伙人、研发VP栾小凡，英飞流创始人兼CEO张颖峰三位嘉宾给出了自己的真知灼见。

大会首日，17位嘉宾畅谈大语言模型、多模态大模型、具身智能、AI原生应用、音乐生成、3D AIGC、AI智能体的行业应用、垂类行业大模型等前沿议题。

除了大会首日主会场进行的大模型峰会，以及今天主会场的AI Infra峰会，大会分会场也在这两天分别组织了端侧生成式AI技术研讨会、AI视频生成技术研讨会与具身智能技术研讨会，17位青年学者和技术专家带来了报告分享，后续将会上架这三场收费制研讨会的回放。

一、从智算集群到原生加速技术栈，聚焦产业落地痛点突破大模型算力瓶颈

AI的发展带来了巨大的数据、算力以及能源挑战，作为支撑大模型运行以及生成式AI应用开发的关键，AI Infra也走到了台前，发展势头强劲。

如何打造优质的智算中心，如何实现AI从芯片到应用端全产业链的高效协同？多位嘉宾给出了自己的深入见解。

1、上海交通大学副教授、无问芯穹联合创始人兼首席科学家戴国浩

Scaling Law之下，数据成为制约AI继续发展的因素之一。以GPT-o1为代表的推理模型可以突破数据瓶颈，但计算范式的转变使算力需求呈指数级增长，可能导致硬件系统能耗开销供不应求，对行业的可持续发展构成挑战。

对此，戴国浩教授指出，当下业界更应该关注单位算力如何实现更高效的token吞吐，让大模型的实际可用算力不仅取决于芯片理论算力，还可通过软硬协同优化提高算力利用效率，并通过多元异构适配放大整体算力规模。他分享了其研究团队在软硬协同、多元异构与端侧智能方面的研究进展与落地成果，这些成果能助力行业提升面向大模型场景的token吞吐效率。

2、北电数智郭文：以AI工厂填补国产算力供给侧与需求侧的产业链断层

“产业要发展，创新不能只是停留在技术层面，更要从流程、系统和组织进行全面的创新。”北电数智智算云负责人郭文分享了从算力、算法、数据与生态方面全面构建人工智能时代AI生产线的实践思考。

郭文称，当下国产芯片落地人工智能产业的最大问题是，算力供给侧与需求侧之间存在产业链断层。为此，北电数智推出首个“国产算力PoC平台”，以北京数字经济算力中心为载体打造具备全栈能力的AI工厂，全线适配与拉通场景、模型到芯片层面，推动智算中心从成本中心转化为推动地区发展新质生产力中心。

3、GMI Clould King.Cui：高稳定GPU集群成AI企业全球化布局关键

中国AI出海加速，算力作为其中的核心生产资料正发挥重要作用。高稳定性的GPU集群能降本增效，帮助企业在AI全球化浪潮中取胜。

GMI Cloud亚太区总裁King.Cui提到，为确保GPU集群的高稳定性，他们使用了具备主动检测功能的自研云集群引擎，实现计算、存储和网络资源的高效调配。

GMI Cloud是NVIDIA Top10 NCP，交付前会进行严格的验证流程。GMI Cloud与IDC协作，提供备件和维修，拥有更短的交付时间，确保停机时间最小化。

4、阿里云丛培岩：灵骏智算集群不仅要实现稳定性和极致性能，更要在不同维度支持规模的极致扩展

阿里云智算集群产品解决方案负责人丛培岩预测，未来模型性能还会随参数，数据集和算力的增长继续提升，Scaling Law仍有增长空间，AI智算集群的设计范式转向要以GPU为核心。

阿里云推出支持超大规模分布式训练的灵骏智算集群，可达到10万卡扩展规模，千卡规模线性加速比达到96%；阿里云自研磐久服务器采用CPU和GPU分离，实现单机提升至16颗GPU；网络架构HPN7.0最大规模可连接10万颗GPU。

智算集群稳定性至关重要，阿里云3千卡规模智算集群，在一个月内稳定训练时长占比达99%。

5、光羽芯辰周强：解决“大模型不懂你”问题，个人大模型迎来机遇

作为与通用大模型、行业大模型、企业大模型并行发展的一大分支，个人大模型也进入了快速发展期。光羽芯辰创始人兼董事长周强称，个人大模型解决的是“大模型不懂你”的问题，随着手机、PC、可穿戴、XR等端侧设备厂商All in AI，个人大模型之路将越走越宽。

他提到，个人大模型也称为端侧大模型，期待解决端侧智能体在性能、功耗和成本方面的痛点，让真正的AI手机走进生活。端侧AI具备及时性、可靠性、成本低、隐私保护和定制化五大优势。目前，构建端侧大模型的核心是解决存储带宽和容量双重问题。

6、中昊芯英朱国梁：国产TPU芯片“No CUDA”软件栈的构建实践

中昊芯英芯片软件栈负责人朱国梁介绍了他们在为国产TPU芯片构建“No CUDA”软件栈的实践经验。

中昊芯英刹那芯片采用VLIW指令集架构，面对庞大的CUDA生态，他们逐一解决了库、并行计算与编程方面的问题，全自研用户态和内核态驱动，实现了芯片的高效管理。

为做好生态兼容，中昊芯英底层软件栈兼容PyTorch以及所有主流训推框架，目前，中昊芯英可提供定制的端到端的云智算解决方案，并支持国产操作系统。

二、从企业智能体、向量数据库到RAG，AI Infra基础软件涌现诸多新挑战

下午场，多位嘉宾进一步分享了AI Infra领域关于智能体开发管理平台、实时语音、向量数据库、向量模型、RAG技术、数据编排等方面的行业观察和深入见解。诸多新平台、新产品、新技术走向前台，赋能产业。

1、枫清科技高雪峰：从数据到知识，跨越生成式AI与决策智能间的鸿沟

枫清科技创始人兼CEO高雪峰谈道，要将生成式AI真正应用到企业决策场景中，弥合其与决策智能之间鸿沟的技术突破点，就是在推理框架侧融合符号逻辑推理。

企业智能化落地需要面临数据孤岛、数据整合、知识校验、数据实时效等技术挑战。枫清科技可以为企业提供知识引擎与大模型双轮驱动的新一代智能体平台，通过构建全链路优化体系，帮助企业提升数据质量，将企业本地数据知识化，并融合大模型沉淀的泛化能力，在知识网络之上进行符号逻辑推理，实现可解释的智能，进而使AI在多个场景下能够实现精准、透明的决策支持，推动企业智能化转型的顺利实施。

2、声网毛玉杰：生成式AI+实时互动，让人机交互变成真正的心灵交互

声网生成式AI产品负责人毛玉杰讲述了生成式AI出现后实时互动（RTE，Real-Time Engagement）技术和体验的变迁。

毛玉杰介绍，2014年至今十年，RTE从服务质量走向体验质量；2025年开始，在生成式AI发展的背景下，RTE向AI RTE变革，开始注重跨模态体验质量，做多模态交互、跨模态转换，为人和模型而设计，给大模型厂商提供眼睛、耳朵和声音能力。

毛玉杰说，目前人机对话已经达到“听得懂”的状态，期待下一步实现“听得心”——让人机交互变成真正的心灵交互。

3、腾讯云谢宇：向量数据库助力企业挖掘更大数据价值

AI时代，向量数据库（VDB）脱颖而出，成为连接结构化与非结构化数据的枢纽。然而，当VDB被运用于RAG场景时，多款开源RAG架构出现了召回率低的问题。

腾讯云向量数据库技术负责人谢宇介绍，为解决上述挑战，腾讯首先提升了复杂文档的识别效果，并对数据处理、Embedding、检索、总结等其他环节进行优化，最终实现了90%以上的召回率。

腾讯自研向量检索引擎OLAMA已上线5年，日均处理8500亿次检索请求。未来，他们还将在性能、成本、业务效果、容灾率等方面发力，持续提升产品表现。

4、Jina AI王楠：长文本大模型、RAG长期共存，长窗口向量模型面临两大挑战

大模型存在幻觉、无法保证私有数据安全、推理成本高三大问题，Jina AI联合创始人兼首席技术官王楠认为，RAG正是通过缩小大模型生成范围，保证检索准确性、实现结果可溯源，所以长本文大模型不会取代RAG，二者将长期共存。

短窗口会导致上下文背景信息丢失，因此RAG需要长窗口向量模型支持。但长窗口向量模型面临两大挑战，一是推理成本和内存消耗会随窗口长度呈平方线性增长，共享GPU是解决思路之一；二是长窗口使模型无法完整表示细颗粒度语义，解法是增加向量维度和多向量表示。

5、Zilliz栾小凡：向量数据库落地面临成本及扩展性挑战，RAG转为Graph RAG

Zilliz合伙人、研发VP栾小凡分享了向量数据库目前面临的挑战以及相应解决方案。

栾小凡称，2025年新生成的数据中，将会有80%以上是非结构化数据。在这一数据压力下，向量数据库的落地面临着成本以及扩展性等方面的种种挑战。而目前的RAG存在搜索质量难、处理长尾查询能力差、结果难以解释和控制、向量存储成本高等问题。

据此，栾小凡及其团队提出了两个解决思路：一是混合查询，在单个系统内支持密集嵌入、稀疏嵌入和词汇搜索；二是Graph RAG，将知识图谱和向量检索结合起来。

6、英飞流张颖峰：多模态RAG新范式

英飞流创始人兼CEO张颖峰认为，RAG作为LLM时代的数据库，目前面临着三大挑战——多模态文档处理、检索、语义鸿沟。

针对第一个问题，英飞流训练了深度文档理解模型，能对复杂文档中的多模态内容进行分类处理。而在检索这一RAG“最后一公里”的问题上，英飞流使用三路召回方案，并增加张量索引进行重排序，这一方案在多模态RAG上展现出明显优势。

最后，针对检索过程中的语义鸿沟，英飞流使用GraphRAG抽取知识图谱，并与原数据进行联合检索，提升检索质量。

7、Alluxio傅正佳：零改造、无侵入策略，打造高性能AI数据底座

Alluxio首席架构师傅正佳谈到了提升大规模模型训练效率的两大挑战：一是数据规模不断增长、类型更多元化，因此处理数据需要提升算力有效利用率；二是当数据喂到训练平台上，数据IO访问瓶颈会导致算力处于低利用率状态。

这一背景下，Alluxio提供了统一的数据视图、丰富协议转化、高性能数据访问，以打造整体数据服务。其方案通过零改造、无侵入策略，可以使算法工程师仍按原有方式工作，无需改变已有脚本，并且客户已经有的大量存量数据不需要进行私有化协议改造。

三、AI 2.0时代，大模型行至深水区，AI Infra迎来变革

在圆桌论坛环节，几位嘉宾分享了对于“大模型行至深水区，AI Infra的新变化与新机会”这一主题的行业洞察，以及各自公司的产品和技术是如何解决AI应用中的核心痛点的。

作为主持人的德联资本执行董事刘景媛提到，两年前，ChatGPT将生成式AI推到台前，迎来AI 2.0时代，Scaling Law和数据量的大规模增长给AI Infra带来了非常大的增量机会。两年后的今天大模型行至深水区，AI Infra在帮助大模型及相关产品的落地的过程中，产品边界和功能需求逐渐明晰。