国家知识产权局信息显示，广州品唯软件有限公司申请一项名为“一种基于模型加速推理的文本生成方法、装置、设备及存储介质”的专利，公开号CN121581166A，申请日期为2025年11月。

专利摘要显示，本申请公开了一种基于模型加速推理的文本生成方法、装置、设备及存储介质，方法包括：获取样本数据，按照数据并行量将样本数据分配至各个第一GPU，以供各个第一GPU进行推理，得到每个并行通道对应样本数据的视觉特征，对各个视觉特征进行聚合，得到聚合视觉特征，通过LLM语言模型对聚合视觉特征进行推理，生成文本数据，其中，视觉模块的GPU加载视觉模块标准权重，LLM语言模型的GPU加载部分LLM标准权重。由此可见，视觉模块通过多GPU对样本分成多份数据进行并行推理，同时LLM也通过未完全加载标准权重的多GPU对聚合视觉特征进行推理，既减缓了视觉模块的参数里压力，又提升了LLM生成文本的效率。

天眼查资料显示，广州品唯软件有限公司，成立于2012年，位于广州市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本100万人民币。通过天眼查大数据分析，广州品唯软件有限公司共对外投资了2家企业，参与招投标项目8次，专利信息766条，此外企业还拥有行政许可15个。

声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

本文源自：市场资讯

作者：情报员