国家知识产权局信息显示,百望云科技(北京)有限公司申请一项名为“一种基于傅里叶变换的大模型Token压缩方法”的专利,公开号CN123097354A,申请日期为2026年8月。
专利摘要显示,本发明提供一种基于傅里叶变换的大模型Token压缩方法,包括以下步骤:S1:数据预处理,对于输入的原始Token序列,通过Embedding层处理,将离散的数据映射到低纬度的连续向量空间,形成Token嵌入向量序列;S2:将Token嵌入向量序列进行归一化处理,对不同长度的序列进行长度对齐;S3:通过快速傅里叶变换算法将时域Token序列映射至频域,并获取到相应的频域系数序列和功率谱密度;S4:选择频域系数,通过确定一个能量阈值边界,仅保留阈值以上的重要系数;S5:对保留的频域系数进行逆傅里叶变换,通过后处理模块恢复语义完整性,最后再进行归一化逆变换,恢复原始数据尺度。本技术方案通过将时域Token序列转换为频域表示,利用频谱能量聚集特性实现高效压缩,在保证模型性能的前提下显著降低计算复杂度与存储开销。
天眼查资料显示,百望云科技(北京)有限公司,成立于2012年,位于北京市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本2000万人民币。通过天眼查大数据分析,百望云科技(北京)有限公司专利信息9条,此外企业还拥有行政许可6个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴