2月25日消息,近日,智源研究院联合多个芯片厂商发布了基于FlagOS技术栈的DeepSeek-R1多芯片版本。该版本通过统一开源的软件栈实现了不同AI芯片架构上的DeepSeek-R1推理。
基于FlagOS的DeepSeek-R1在各芯片上的评测结果
据介绍,DeepSeek-R1的多芯片版本能在性能上与英伟达芯片的版本效果对齐。该版本的源代码、模型文件以及Docker镜像已经开放至Github/Gitee、HuggingFace等平台,方便开发者获取与使用。
FlagOS是由智源牵头,与多个厂商共同打造的面向多元AI芯片的统一、开源的系统软件技术栈,包括支持多种AI芯片的高效并行训推框架FlagScale、支持多种AI芯片架构的高性能算子库FlagAttention和FlagGems,以及支持多种AI芯片的统一通信库FlagCX等关键技术。(袁宁)
本文来自网易科技报道,更多资讯和深度内容,关注我们。
热门跟贴