国家知识产权局信息显示,杭州缘算科技有限公司申请一项名为“AI服务的处理方法、装置、介质及设备”的专利,公开号CN121996415A,申请日期为2025年12月。
专利摘要显示,本申请是关于AI服务的处理方法、装置、介质及设备,AI服务的处理方法应用于边缘处理节点,包括:接收请求端针对大模型的AI服务的访问请求,提取访问请求中的提示文本;将提示文本转换为指定维度的特征向量,基于特征向量生成缓存键;查询本地缓存,如果查询到缓存键及缓存内容,向请求端响应缓存内容;如果未查询到缓存键,基于提示文本从多个大模型中确定目标模型;从目标模型获取响应内容,将响应内容响应给请求端,并作为所述缓存键的值,存储在本地缓存。能根据提示文本的不同语义,生成相应缓存,解决传统字符串匹配无法识别语义相似性的问题,提高缓存命中率,优化大模型资源利用率,提高AI服务的成功率并降低成本。
天眼查资料显示,杭州缘算科技有限公司,成立于2025年,位于杭州市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本100万人民币。通过天眼查大数据分析,杭州缘算科技有限公司。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴