国家知识产权局信息显示,湖北华中电力科技开发有限责任公司申请一项名为“一种大模型后门攻击检测与自动溯源方法”的专利,公开号CN121365392A,申请日期为2025年9月。
专利摘要显示,本发明提供一种大模型后门攻击检测与自动溯源方法,旨在解决现有技术中在大规模预训练模型后门攻击检测中的准确性差、误报率高及隐蔽后门识别困难的问题。该方法首先通过提取目标大模型的参数分布特征和推理行为特征,利用聚类分析识别潜在的异常聚类。接着,通过分析模型输出的偏差与生成对抗样本来验证模型是否受到后门攻击影响,并通过特征反演回溯技术,追踪输入与输出之间的映射关系,定位后门触发器特征。最后,通过溯源分析,识别后门攻击源及其传播路径,并通过修正异常参数与重训练来消除后门影响。该方法具有高效、低误报、自动溯源等优点,能够有效提高大规模模型的安全性,确保模型在实际应用中的可信度和可靠性。
天眼查资料显示,湖北华中电力科技开发有限责任公司,成立于1998年,位于武汉市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本34481.561417万人民币。通过天眼查大数据分析,湖北华中电力科技开发有限责任公司共对外投资了1家企业,参与招投标项目1136次,专利信息746条,此外企业还拥有行政许可4个。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员
热门跟贴