4月20日,阿里通义团队开源新一代多模态大模型 Qwen3.6-35B-A3B 不到24小时,众智FlagOS社区即宣布完成“Day0全量适配多芯片”。目前,该模型已在包括英伟达、华为昇腾、昆仑芯、海光、沐曦、天数、平头哥等多种AI芯片上完成适配与部署验证,并提供开箱即用版本。
此次适配基于 FlagOS 统一开源技术栈完成。开发者可通过其vLLM插件实现“零代码修改”部署,在不同芯片间实现一致性推理与性能对齐。
据悉,本次Qwen3.5升级到Qwen3.6,模型结构等并没有明显变化。由于此前FlagOS已经适配过英伟达、平头哥、海光、沐曦、天数等五款芯片,所以本次适配更多的是针对昆仑芯、华为这两款新增芯片完成,并针对新的模型权重重新进行一致性测试。基于FlagOS建立的从编译器、算子库、多芯片框架统一plugin等技术,FlagOS团队可以快速完成模型适配、跨芯迁移验证、精度对齐评测、开源版本发布等重要步骤。
经 GPQA_Diamond、ERQA等权威评测集验证,FlagOS 适配后的 Qwen3.6-35B-A3B,在 Agentic Coding 能力、复杂推理等核心能力上,与 CUDA 原生版本对齐,可放心应用于代码生成、日志分析、Bug 排查、复杂文档编辑等生产场景,无需担心适配导致业务效果折损。
据介绍,FlagOS是一款专为异构AI芯片打造的开源、统一系统软件栈,支持 AI 模型一次开发即可无缝移植至各类硬件平台,大幅降低迁移与适配成本。它包括大型算子库、统一AI编译器、并行训推框架、统一通信库等核心开源项目,致力于构建「模型-系统-芯片」三层贯通的开放技术生态,通过"一次开发跨芯迁移"释放硬件计算潜力,打破不同芯片软件栈之间生态隔离。
该项目由 北京智源人工智能研究院 联合多家科研机构、芯片厂商及软件企业共同发起,目前众智FlagOS社区已汇聚78家成员单位,正加速构建跨芯片协同的AI基础设施生态。(袁宁)
热门跟贴