国家知识产权局信息显示,微软技术许可有限责任公司申请一项名为“提示词查询的动态批处理”的专利,公开号CN121058014A,申请日期为2024年6月。专利摘要显示,一种模型包括对输入数据(诸如数据提示词)执行不同函数的不同处理节点。每个节点具有批处理准则,该批处理准则包括阈值,当该阈值被超过时,触发向对应节点传输一批处理请求。针对节点的不同处理请求被路由到该节点的批处理缓存。在满足批处理准则之前,阻止处理请求被路由到该节点。一旦批处理准则被满足,被存储在批处理缓存中的一批处理请求即被路由到对应节点。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

本文源自:市场资讯

作者:情报员