打开网易新闻 查看精彩图片

2026年初,一群消防员冲进一栋刚熄火的房子,想找出屋里有没有危险品:煤气罐、化学试剂瓶、喷雾罐这些东西,一旦在高温下继续受热,随时可能爆炸。可眼前的场景是这样的:所有东西都被烧得面目全非,塑料化成了黑色的胶状物,木头变成了一堆碳渣,连金属都锈迹斑斑扭曲变形。人眼都很难分辨这堆废墟里原本是什么,更别说让AI来识别了。

这不是个别案例。伊利诺伊大学香槟分校的研究团队做了个实验,把当下最强的目标检测模型RF-DETR扔进火灾现场的照片里,结果相当难看。

从最轻微的烧毁程度到最严重的烧毁程度,这个模型的识别准确率下降了71%。更离谱的是,在那些勉强被模型框出来的物体里,92.9%的物体被贴错了标签。一个被烧成一堆黑炭的行李箱,模型说它是"消防栓";一个烧焦的婴儿安全座椅,被认成了"摩托车"。就连号称拥有海量世界知识的视觉语言模型(VLM)也栽了跟头,InternVL3.5这样的模型,在给烧毁物体找回它原本模样的任务上,识别成功率从93.85%直接跌到28.11%。

VLM

:全称Vision-Language Model,视觉语言模型,一种既能看图又能理解语言的AI模型,可以根据图片回答问题、生成描述。

这里就有一个值得琢磨的问题:为什么AI在这件事上表现得这么差?答案其实藏在一个容易被忽略的区别里。

物理损毁和普通的图像损坏,根本不是一回事

我们平时说的"图像质量下降",指的是加了噪点、变模糊、换了光照角度这些问题。这些操作只是改变了图片本身的呈现方式,被拍摄的物体没有任何变化,一把椅子还是那把椅子,只是照片拍得不太清楚。市面上现有的鲁棒性测试集,比如专门测试模型在恶劣天气、噪声干扰下表现的那些数据集,考察的都是这种情况。

但火灾造成的损毁完全是另一回事。

木头烧焦后不是"看起来暗了一点",它的几何形状塌陷了、材质从坚硬的纤维结构变成了脆弱的碳化物、表面纹理彻底改变。塑料熔化后甚至会流动、重新凝固成完全不同的形状。这是物体本身发生了不可逆的物理转变,不是拍照条件变差了,而是这个东西真的变成另一种东西了。

这就好比你去修一张被暴雨打湿、字迹模糊的老照片,和你去辨认一块被大火烧过的木雕原本是什么图案,这是两种完全不同难度的任务。前者信息还在,只是被噪声盖住了,把噪声去掉信息就出来了。后者是信息本身被销毁了一部分,火没有"盖住"木雕原来的花纹,它把花纹直接烧没了,你面对的是一堆炭,得靠经验、靠上下文去推测这堆炭原来长什么样。如果不区分这两种情况,用处理图像噪声的老办法去解决物理损毁的问题,那基本等于缘木求鱼:模型学到的是"怎么把模糊的东西变清楚",而不是"怎么从灰烬里推断出原来是把椅子"。

正因为这个根本性的差异,现有的测试基准根本没法评估AI在真实火灾场景里的表现。研究团队于是决定,自己造一个。

TRACE:给AI一本"火灾前后对照相册"

这个新基准起名叫TRACE

TRACE

:Transformation-Aware Benchmark for post-fire object understanding的缩写,一个专门评估AI在火灾后物体识别能力的测试基准。

,核心思路很朴素:既然要判断AI能不能"看穿"火灾损毁认出物体原貌,那就得先给AI(以及评估这个AI的人)准备一套"损毁前"和"损毁后"严格配对的图片。

具体规模是这样的:21400张基于真实火灾照片生成的合成场景图,加上499个物体身份、跨越189个类别的"完整品到烧毁品"渐变序列。每个物体不是简单地分成"好"和"坏"两种状态,而是被细分成五个损毁等级,从L0(表面轻微烟熏)到L4(近乎完全销毁,只剩一堆残骸)。

为什么要做五级细分而不是简单的"轻度/重度"二分类?因为研究者想搞清楚一件事:AI的失败是从哪个阶段开始的,是一点点滑坡,还是过了某个临界点就突然崩溃。这就像医生给病人拍X光片,不会只拍"生病前"和"生病后"两张,而是定期拍片记录病情发展的每一个阶段,这样才能看清楚病情恶化的曲线是缓慢的还是陡峭的。数据显示,答案是陡峭的:在轻度损毁阶段(L0到L1),AI表现变化不大,但一旦进入中度到重度损毁(L2到L4),性能断崖式下跌。

这些图片是怎么来的?团队没有让AI凭空瞎编火灾废墟的样子,而是先收集了大约700张真实的火灾后场景照片(主要来自一个叫Fire360的数据集以及一些允许研究使用的网络图片),把这些真实照片作为参考,用Gemini 3 Pro Image这个生成模型去合成新的场景,同时还专门设计了材质失效规律:纸张和纸板最先被烧毁,接着是薄织物和泡沫,然后是厚织物和皮革,再往后是木头、塑料、橡胶,玻璃紧随其后,陶瓷和石材更耐烧,金属最扛烧,宝石几乎不受影响。这套规律不是拍脑袋定的,是团队查阅了各种材料在真实火灾中的失效顺序总结出来的。

为了保证生成的图片够真实,团队还专门用Gemini 3 Flash当"质检员",给每张候选图片打分,从真实感、材质还原度、结构合理性等维度综合评估,打分低于0.7的图片直接淘汰。最终大约29000张候选图里,只有21400张通过了审核,通过率73.8%。而且为了验证标注质量,团队里两名作者独立对300个物体样本做了接受/拒绝的判断,最后一致率达到93.4%,Cohen's κ系数0.836,这个数字说明标注是相当靠谱的,不是随便糊弄的。

五道考题:不只是"认出来"这么简单

有了配对数据,TRACE设计了五个层层递进的任务,来全方位考察AI对烧毁物体的理解能力。

第一个任务是损毁物体检测,简单说就是给一张火灾现场照片,让AI框出里面所有的物体并且分类正确。第二个任务是原状恢复与检索,分为两种玩法:一种是在特征层面,让AI把烧毁物体的视觉特征"拉回"接近原本完好状态的特征;另一种是图库检索,给AI一堆完好物体的图片库,让它从烧毁的照片里找出对应的那一张原图。第三个任务是原始材质推断,让AI根据烧毁后的样子猜出这东西原本是什么材质做的。第四个任务是原状描述生成,让AI用一句话描述这个物体烧毁前是什么、什么材质、干什么用的。第五个任务是功能推理,更进一步,让AI判断这个物体原本的功能、以及修复它需要什么材料。

这五个任务其实对应着火灾后真实工作场景里的五种需求:消防员需要快速定位危险品(检测),保险理赔员需要弄清楚烧毁的到底是什么东西值多少钱(检索和材质推断),调查人员需要重建火灾发生前现场的样子(描述生成),修复团队需要知道该准备哪些材料(功能推理)。这不是研究者拍脑袋想出来的任务清单,而是真正对着实际工作流程设计的。

在这五道题上,几乎所有主流AI模型的表现都印证了开头提到的那个规律:损毁越重,表现越差,而且差得不是一星半点。比如Qwen2.5-VL在图库检索任务上,识别成功率从76.92%掉到32.31%,直接腰斩还多。

这说明什么?说明现有的视觉模型,无论是专门做检测的RF-DETR,还是号称有丰富世界知识储备的各种VLM,在面对"物体本身已经变质"这件事上,普遍缺乏应对能力。这不是某一个模型训练得不够好的问题,而是整个领域在这类特征表示上存在系统性的短板。

FRM:一个只做"翻译"、不动原有模型的补丁

发现问题之后,研究团队开始琢磨解决方案。第一反应可能是:既然图片被烧坏了,那直接把图片修复干净不就行了吗?

他们真的试了这条路。用一个叫Restormer

Restormer

:一种基于Transformer架构的图像修复模型,常用于去噪、去模糊等图像质量恢复任务。

的图像修复模型,专门在TRACE的配对数据上做微调,试图把烧毁的照片"修"回接近完好的样子,再把修复后的图片喂给检测模型和VLM。结果呢?效果很有限。检测任务上mAP(一种衡量检测准确度的综合指标)只从0.338提升到0.375,提升幅度很小。另一个修复模型WildIR表现更差,甚至把RF-DETR的检测性能拖低到了0.266,比不修复还糟糕。

为什么像素级修复这条路走不通?因为物理损毁造成的信息缺失是真实存在的,不是"藏起来了"而是"真的没了"。把一堆烧焦的碳渣修复成一张看起来干净的图片,本质上是让AI凭空猜测细节,这种猜测很容易猜错,而错误的像素细节反而会误导后续的识别模型。这就像你想根据一堆烧毁的信件灰烬,用橡皮泥捏出信件原本的样子,捏出来的东西看着像模像样,但内容完全是编的,反而会让人对信件原文产生错误的印象,不如直接承认这堆灰烬里能读出的信息就这么多。

于是团队换了个思路:与其在像素层面较劲,不如在特征层面下功夫。这就是这篇论文提出的核心方法,Feature Recovery Module(特征恢复模块,简称FRM)。

FRM

:Feature Recovery Module的缩写,一个轻量级、可插拔的模块,作用是把AI从烧毁图片里提取出来的"特征"(也就是AI理解图片的内部数字表示)修正到接近完好图片对应的特征,同时不需要改动原有的大模型。

FRM的设计思路可以概括成一句话:不修图片,只修AI"脑子里"对这张图片的理解。

具体来说,任何一个视觉AI模型在处理图片时,内部都会把图片转换成一串数字,这串数字就是所谓的"特征",模型后续所有的判断都是基于这串数字做的。FRM插在这个特征生成的关键节点上,输入是烧毁图片对应的特征,输出是修正后、更接近完好图片特征的新特征。原来的检测模型、语言模型完全不用动,权重全部冻结,只有FRM这个插件在训练。

这个设计带来了几个实际的好处。首先,因为不用动原模型,训练成本极低。研究团队在单张A100显卡上,用大约2000对配对数据,缓存好特征之后训练FRM,大概一小时就能收敛。其次,因为FRM是"即插即用"的,它可以套用到不同的宿主模型上,从检测器RF-DETR,到CLIP、SigLIP2这样的视觉编码器,再到Qwen3-VL、InternVL3.5等五种VLM,全都适用。

FRM的内部结构是一个带残差连接的小型Transformer

残差连接

:一种神经网络设计技巧,让网络的输出等于输入加上一个修正量,这样即使修正量学得不好,网络至少能退化成"什么都不做",不会比原始输入更差。

,而且用了一个很巧妙的初始化技巧:让这个修正量在训练刚开始时严格等于零。这意味着刚开始训练时,FRM相当于什么都没做,输出和输入一模一样,然后随着训练推进,这个模块才慢慢学会怎么"纠偏"。这样做的好处是训练过程更稳定,不会因为一开始瞎改而把原本正常的特征搞乱。

这套思路放在生活里也很好理解。想象你是个翻译,面前有一份被雨水泡烂、字迹晕开的合同,你的任务不是把这张纸重新打印一份看起来干净的版本(那样很可能会印错内容),而是直接凭着经验和上下文,在脑子里把这份合同"翻译"成你能理解的准确意思,然后把这个准确的理解传达给后面需要用到合同内容的人。至于那张纸本身脏不脏、皱不皱,其实不重要,重要的是"意思"传对了。FRM干的就是这个活:它不管图片本身好不好看,只负责把AI对这张图片的"理解"尽量往正确方向拉一把。

FRM插在哪个位置也有讲究。论文里做了对比实验:把FRM插在视觉编码器比较靠前的层,还是靠后、更接近语言模型输入的层,效果差别很大。以Qwen3-VL为例,插在前期的图像特征提取阶段,检索成功率是72.90%;换成插在更靠后、快要送进语言模型的那一层,成功率直接跳到85.28%。InternVL3.5也是类似的规律。这说明,越靠近最终决策的那一层去做修正,效果越直接,因为语言模型实际"看到"的就是那个层级的特征,在那里修正相当于直接给决策环节喂对的信息,而不是在半路上改一次、后面还要经过好几层加工才能起作用,中间每一层都有可能把你修正的东西又带偏一点。

FRM到底带来了多大的提升

数据说话最有力。先看检测任务:RF-DETR在装上FRM之后,检测性能相对提升了30.8%。如果再叠加对RF-DETR本身做微调,FRM还能在微调的基础上再往上加13.1%,说明微调和FRM解决的是两种不同的问题:微调让模型"见过"更多烧毁图片、适应这种输入分布;而FRM纠正的是即使模型见过烧毁图片、依然残留的特征偏移。这两者是互补的,不是互相替代的关系。

|方法|检测mAP@0.5:0.95|

|原始RF-DETR|0.338|

|Restormer修复+RF-DETR|0.375|

|WildIR修复+RF-DETR|0.266|

|SFA域适应|0.161|

|DATR域适应|0.293|

|**RF-DETR+FRM**|**0.442**|

|RF-DETR全量微调|0.572|

|微调+FRM|**0.647**|

再看特征层面的纯净效果。研究团队专门在CLIP和SigLIP2

CLIP、SigLIP2

:两种主流的视觉编码器,都是通过对比学习把图片和文字对齐到同一个特征空间里的模型,广泛用于图像检索、图文匹配等任务。

这两个不同预训练目标的视觉编码器上单独测试了FRM,结果显示,即便这两个模型的训练方式完全不同,FRM依然能把烧毁图片和完好图片之间的特征距离显著拉近。SigLIP2上的均方误差降低了43.4%,特征之间的余弦相似度提升了0.138。检索任务上更直观,SigLIP2的Top-1检索准确率从24.2%提升到39.0%,Top-5准确率从77.3%提升到96.2%,几乎逼近了理论上限(用完好图片去检索自己,准确率必然是100%)。

这个跨模型都通用的现象说明了一件事:火灾造成的特征偏移,不是某一个模型特有的毛病,而是一种在不同视觉表示体系里普遍存在的、结构化的偏移规律。换句话说,火灾对图片特征造成的破坏是有"套路"的,不是随机噪声,这才是FRM能够学会纠正它的前提。

再看VLM在四个物体级任务上的整体表现,下面这张表汇总了五个主流VLM在装上FRM前后的平均得分变化:

|模型|检索任务提升|材质推断提升|描述生成提升|功能推理提升|

|Qwen3-VL|+10.73|+3.24|+3.48|+5.94|

|Qwen2.5-VL|+11.83|+6.28|+3.50|+5.51|

|InternVL3.5|**+15.83**|**+9.81**|**+8.41**|+4.35|

|Molmo2|+4.94|+3.96|+4.33|+5.31|

|LLaVA-OV-1.5|+2.12|+4.58|+3.86|+3.31|

有个规律很值得注意:原本表现越弱的模型,FRM带来的提升往往越大。InternVL3.5在材质推断和描述生成上的原始表现是五个模型里最弱的,但FRM带来的提升也是最大的。这意味着FRM的作用更像是"补短板",模型原本在烧毁场景下丢失得越多的信息,FRM能帮它捞回来的也越多。而检索能力本来就比较强的模型,比如Molmo2和LLaVA-OV-1.5,提升幅度相对温和一些,因为它们本身已经部分保留了这些信息,FRM能挖的"余量"没那么大。

更有意思的是损毁程度和提升幅度之间的关系。研究团队按五个损毁等级分别统计了提升幅度,发现在轻度损毁(L0到L1)阶段,FRM带来的提升几乎可以忽略不计,平均只有0.73个百分点;但到了中重度损毁(L2到L4)阶段,提升幅度暴涨到14.66个百分点。这个趋势非常合理:轻度损毁时图片本身信息保留得还比较完整,AI原本就能应付得不错,FRM没有太多可修正的空间;但损毁越重,特征偏移越严重,FRM能纠正的东西自然也越多。这个规律也从另一个角度印证了前面说的:FRM不是靠"作弊"或者随机蒙对提升成绩的,它确实是在针对性地纠正因物理损毁而产生的结构化偏差。

还有一个细节值得单独说一说:FRM完全没有用任何和功能推理相关的标签去训练,它训练时唯一看到的监督信号就是"烧毁前特征"和"烧毁后特征"这一对配对数据,压根不知道什么叫"这个物体的功能是什么"。但即便如此,FRM依然让所有五个模型在功能推理任务上都获得了正向提升,平均提升4.9个百分点,而且损毁越重提升越大(L3到L4平均提升7.6个百分点)。这说明了一件很关键的事:语言模型内部本身已经储备了大量关于"什么材质、什么形状的东西通常是用来做什么的"这类世界知识,FRM并没有教会模型任何新知识,它只是把原本因为烧毁而丢失的视觉证据补了回来,让模型能够重新调用它早就具备的那部分知识。这就好比一个见多识广的老侦探,他脑子里装满了各种物证和常识,但如果给他的照片模糊到什么都看不清,他再厉害也没法推理。FRM干的事情,相当于帮他把照片擦亮了一点,让他能重新用上自己脑子里那些本来就有的经验。

不过研究团队也没有回避一个局限:在损毁非常严重、模型压根看不清具体是什么东西的时候,AI有时候会给出一些模糊笼统的猜测,比如"容器""家具"这种泛泛的词,这些词恰好也能蒙对一部分功能标签,造成成绩虚高的假象。所以研究团队特意强调,功能推理的分数要结合检索和描述生成的结果一起看,如果这几项同时都在涨,才说明FRM是真的在帮模型恢复出具体的物体身份,而不是靠瞎猜蒙混过关。这种自我审视挺难得的,很多论文报喜不报忧,这篇论文至少把这个隐患摆到了台面上。

真实世界里,FRM还管用吗

所有前面说的实验,大多是在合成数据上做的。合成数据毕竟是AI生成出来的,和真实世界的火灾现场,多少会有差距。研究团队没有回避这个问题,专门找了500张从真实火灾照片里手工裁剪出来的物体图,在这批真实数据上又测了一遍FRM。

结果是,FRM在真实数据上依然管用,但提升幅度比合成数据上要小一些。在损毁中度到重度(L2到L4)的真实照片上,检索成功率平均提升了3.87个百分点,材质推断提升4.67个百分点,描述生成提升5.06个百分点,功能推理提升4.49个百分点。即使是在近乎完全销毁(L4)的最极端情况下,FRM依然保持着正向提升,只是数值更小一些。

这种"合成数据上效果更好、真实数据上打了折扣"的现象其实很常见,本质上反映的是生成模型和真实世界之间不可避免的差距:AI生成的火灾场景再逼真,也不可能完全复刻真实火场里那种混乱、遮挡、光照不均的复杂情况。研究团队对这一点很坦诚,直接把这个差距写进了论文的局限性部分,而不是藏着掖着只展示好看的数字。

这篇论文没有回避的另一个问题

论文里有一段很实在的自我反思,讲的是FRM这个方法本身的一个天然矛盾:FRM恢复出来的是"烧毁前"的特征,这对于回答"这个东西原来是什么"这类问题非常有帮助,但如果有人想问的是"这个东西现在烧成什么样了",FRM反而会把这个损毁信息给"擦掉",导致模型答不好这类问题。

这个矛盾没有完美的解决方案,研究团队给出的建议是:针对不同类型的问题,应该有一个开关机制,决定要不要启用FRM。这其实是个挺诚实的表态,说明FRM不是万能药,它是为了特定任务(恢复原状)设计的,用错场景反而会帮倒忙。

另外论文也提到,FRM这个模块是和特定的宿主模型、特定的特征提取层绑定的,换一个新模型就得重新训练一遍,没法直接复用。而且要给一个新的物体类别添加训练数据,目前还需要至少一张完好状态的参考图,加上三张不同损毁程度的配对图,这个数据收集门槛不算低。

写在后面

读完这篇论文,最触动我的其实不是那些提升的百分点,而是研究团队处理"图像修复"这条路失败之后的转向。很多研究遇到基线方法效果不好,会想办法调参、换个更大的修复模型接着死磕,但这篇论文的团队很快意识到,问题出在思路本身:物理损毁造成的信息丢失是真实的、不可逆的,硬要在像素层面把它"编"回来,只会制造出看起来真实但内容错误的幻觉。转而去修正特征而不是修正图片,这个决策背后其实藏着一种对问题本质的清醒认知,宁可承认信息真的丢了、去做力所能及的语义层面修复,也不去追求视觉上以假乱真但内容失真的效果。

还有一个细节让我印象很深,就是FRM在功能推理任务上那种"无心插柳"的表现。它从没被教过任何和"功能"相关的东西,训练时看到的只是一堆特征向量的配对关系,结果却帮语言模型在推理物体用途这件事上提升了将近6个百分点。这说明现在的大语言模型内部其实压着一座相当扎实的常识知识库,很多时候AI表现差,未必是它"不懂",而是它"没看清",视觉输入质量拖了后腿。这个发现某种程度上也提示了一个方向:与其一味去扩大模型规模让它学更多知识,有时候先把输入端的信号质量提上去,可能是性价比更高的路。

TRACE这个数据集和评估体系本身,倒让我想起另一件事。它其实是在给"物理世界的不可逆变化"这个更大的问题域开了个头,火只是这类变化里最容易理解的一种,论文结尾也提到了,未来完全可以把这套配对监督的思路搬到水灾、结构坍塌、常年风化这些场景里,只要能找到"事件前"和"事件后"的对照图。这让我好奇的是,如果有一天AI能通过学习各种物理损毁的"套路",反过来去推测一件古董文物几百年前刚出炉时是什么样子,那会是一种什么样的体验。

Q&A

Q1:TRACE是什么?

A:TRACE是伊利诺伊大学香槟分校团队提出的一个专门评估AI在火灾后物体识别能力的测试基准,包含21400张基于真实火灾照片生成的合成场景图,以及499个物体的完整品到烧毁品渐变序列,用来测试AI能否从烧毁残骸中认出物体原本的样子。

Q2:FRM是怎么帮AI认出烧毁物体的?

A:FRM全称Feature Recovery Module,是一个轻量级插件,它不修复图片本身,而是直接修正AI理解图片时生成的内部特征,把烧毁图片的特征往完好图片的特征方向拉近,同时不改动原有大模型的任何参数,训练成本很低。

Q3:为什么直接修复烧毁的图片效果不好?

A:因为火灾造成的物理损毁是信息真实丢失,不是简单的噪声遮挡,直接用图像修复模型把烧毁照片"修"干净,本质上是让AI凭空编造细节,容易编错,反而误导后续识别,实验显示这类方法带来的提升非常有限,有的甚至比不修复还差。