国家知识产权局信息显示,圣麦克思智能科技(江苏)有限公司申请一项名为“面向边缘算力受限终端的大模型轻量化推理加速系统”的专利,公开号CN122154771A,申请日期为2026年5月。

专利摘要显示,本发明涉及人工智能端侧推理加速技术领域,公开了面向边缘算力受限终端的大模型轻量化推理加速系统,包括:通过映射单元获取终端硬件信息与模型参数生成初始配置,由评估构造单元结合缓存占用量与运行温度构造运行代价模型,进而解析出划分计算主导期与带宽主导期的异构执行反转长度;随后以该反转长度为上限生成对齐预填充计算图,分配至异构处理单元并发执行预填充;在解码接力阶段基于连续接力系数平滑迁移处理单元间的算力分配比例,并在当前推理结束后更新功耗与温度以重算反转长度。本发明有效消除了端侧推理的相位错配与延迟抖动,实现了抗热衰减的连续平滑加速与多轮对话状态继承。

天眼查资料显示,圣麦克思智能科技(江苏)有限公司,成立于2020年,位于南京市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本1000万人民币。通过天眼查大数据分析,圣麦克思智能科技(江苏)有限公司共对外投资了3家企业,参与招投标项目19次,专利信息14条,此外企业还拥有行政许可16个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员