国家知识产权局信息显示,广东慧愈健康科技有限公司申请一项名为“自然语言处理任务的推理加速方法、装置、设备及介质”的专利,公开号CN121413752A,申请日期为2025年9月。

专利摘要显示,本申请公开了一种自然语言处理任务的推理加速方法、装置、设备及介质。包括:接收用户的输入数据,基于输入数据得到输入向量,基于输入向量提取特征向量;将特征向量输入到大语言模型的激活预测模块,生成稀疏掩码;基于输入向量进行短期记忆检索和/或长期记忆检索,得到匹配的短期记忆向量和/或长期记忆向量;基于短期记忆向量和/或长期记忆向量进行多尺度融合,并采用稀疏掩码进行稀疏化计算,得到稀疏化计算结果;基于稀疏化计算结果得到输出数据,将输出数据返回给用户。本申请通过采用稀疏激活与多尺度记忆检索的协同作用,在保证任务处理精度的同时,显著降低计算开销和显存占用,适用于实时交互、移动端部署和低延迟场景。

天眼查资料显示,广东慧愈健康科技有限公司,成立于2025年,位于广州市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本1000万人民币。通过天眼查大数据分析,广东慧愈健康科技有限公司专利信息1条。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员