国家知识产权局信息显示，麒麟软件有限公司申请一项名为“一种基于推理服务的大语言模型后端实现系统”的专利，公开号CN121457543A，申请日期为2026年1月。

专利摘要显示，本发明提供一种基于推理服务的大语言模型后端实现系统，属于计算机技术领域，所述系统包括硬件模块、推理框架模块、大语言模型后端模块和推理服务模块，其中，所述硬件模块包括CPU、GPU、NPU计算资源；所述推理框架模块包括开源大语言模型框架和通用第三方自研推理框架；所述大语言模型后端模块包括通用模块和大语言模型实例模块；所述推理服务模块包括vllm推理服务、llama.cpp服务或者自研推理服务。本发明多种推理服务通过大语言模型后端模块实现了不同推理框架推理，提高了开发者使用效率。

天眼查资料显示，麒麟软件有限公司，成立于2014年，位于天津市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本30195.3834万人民币。通过天眼查大数据分析，麒麟软件有限公司共对外投资了23家企业，参与招投标项目2193次，财产线索方面有商标信息464条，专利信息1024条，此外企业还拥有行政许可1个。

声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

本文源自：市场资讯

作者：情报员