一张台球桌,几何已知,球是标准球体,数量与尺寸都被规则限定。把相机架在桌面上方,逐帧检测球、跟踪轨迹,听起来像计算机视觉的入门题。真做起来,麻烦从第一帧就开始了。

打开网易新闻 查看精彩图片

球会高速移动,会互相碰撞,会撞上库边,会短暂遮挡彼此,会从画面里消失,也会在光照变化下变得难以分辨。相机还可能是斜着架的,透视畸变随之而来。检测到一颗球,只是整件事的起点。

PerformStars 正在做的,是把普通台球对局和练习视频,转成结构化的时空数据。这套系统要回答的不只是"球在哪",而是"哪颗物理球在动、它击球前在哪、轨迹怎么演化、最后发生了什么"。

为什么检测台球比看上去难

现代神经网络检测器在视觉特征鲜明的物体上表现很好,台球是另一套难题。整张桌子拍成 Full HD 时,一颗球可能只有几十像素宽。球的形状尺寸几乎一致,外观却随光照变化。反光、高光和阴影,都会影响球心定位的精度。

运动模糊是另一个麻烦。素材给了一组具体数字:球速 2 m/s、帧率 30 fps 时,球在相邻两帧之间移动约 6.7 cm,超过标准台球 57.15 mm 的直径。这意味着,连续帧里都检测对了,也不代表能正确匹配——多球碰撞时,下一帧里最近的检测框,可能属于另一颗球。

YOLO 负责看,几何负责算

系统用定制训练的 YOLO 系列模型检测台球,在推理速度和小目标定位之间取平衡。检测器返回位置、边界框尺寸和置信度,估计出的球心再交给后续几何分析。

但一个通用检测器应付不了所有录像。不同项目、不同球款、不同光照和视角差异很大,因此系统针对不同对象类型和拍摄条件,使用专门的模型与训练数据集。

检测器只回答"这一帧球在哪",它不知道刚才哪颗球动了、哪颗参与了碰撞、某颗球下一步该出现在哪。这需要跨帧序列推理,而不是把每张图独立对待。

图像坐标依赖相机位置,桌面上同一个物理点,俯拍和斜拍下的像素坐标可以差很远。系统用桌面分割和几何标定建立统一坐标系,核心数学工具之一是投影变换,也就是单应性(homography)。标定之后,球的位置可以在共享坐标系里比较,距离和角度可以脱离原始视角估计。精度仍取决于桌面定位和标定的质量——单应性消不掉所有检测误差。

从一堆检测框到一条轨迹

一帧检测出十颗球,下一帧又是十颗,哪颗对应哪颗?最直接的办法是按球心距离做最近邻匹配,用欧氏距离衡量。这只在位移较小、场景无歧义时可靠。高速球一帧的位移,可能超过它与邻球之间的距离;碰撞时轨迹汇聚,检测更难区分。

因此最近邻匹配需要额外保护。系统把检测当作物理对象随时间变化的观测,综合空间邻近性、帧间位移、台面几何,以及推断出的运动在时间上是否自洽。从短暂检测丢失中恢复尤其重要:球可能因模糊或遮挡消失几帧,但这一杆并没有结束。

球号识别同样棘手。花色和标记在旋转、光照、反光和分辨率面前很敏感。系统用裁切出的单球图像训练分类器,估计可能身份的概率,并把多帧证据聚合起来。可这套策略只在"这些观测确实属于同一颗物理球"时才成立——跟踪一旦在碰撞中把两个身份对调,此前积累的证据就全挂到了错误对象上。球号识别和多目标跟踪,是绑在一起的问题。

物理模型当第二证人

台球的运动遵循相对清楚的力学规律:布面滑行、球球碰撞、库边反弹、摩擦减速。这让物理模拟成为解读模糊轨迹的有用工具。系统用合理击球场景的模拟来补充运动分析,思路可以写成一个优化问题:找一组模型参数,让模拟位置与观测位置的偏差最小。

真实实现还要处理检测不确定性、球身份归属歧义、不完整轨迹,以及多球之间的相互作用。

还有一个问题:怎么知道"一杆"发生了?系统要把连续视频切成一次次击球,识别开始、跟踪运动与碰撞、判定结束。结束得太早,残余的球体运动会被误读成下一杆的开端。所以判断台面是否静止,要看一段时间区间内的位置变化,而不是单帧拍板;要求连续多次确认,能降低噪声和短暂检测缺口的影响。边界确定后,系统才能重建初始布局、运动参数和结果——帧流到这里才变成结构化赛事事件。

124 杆实测的数字

单张图表现好,不等于整杆重建正确。系统在连续练习录像上做了评估,自动结果经人工核对。在一组覆盖 124 杆真实击球的评估中,系统检测到 93.5%;在给出了结果的击球里,进袋/未进的判定准确率为 97.2%;结果判定覆盖了已检测击球的 91.4%。

这些数字衡量的是击球事件检测和结果分类,不是单球定位精度。要做专门的检测基准,还得另测精确率、召回率、mAP 和球心坐标误差。

工程上的开放难题还摆着几项:碰撞中保持身份,尤其是外观相近的球交叉而过或短暂消失时;跨拍摄条件的鲁棒性,机位、光照、分辨率和台面部分遮挡都会抬高不确定性;神经网络与物理模型的结合,识别出物体还不够,推断出的运动也得物理上说得通;以及计算效率,大批视频要能经济地处理,多场练习或多场比赛并行分析时也一样。

这套工作说明,自动台球分析没法压缩成一个神经网络。球检测只是第一层,可靠的运动分析要把计算机视觉、几何、目标跟踪、身份识别、物理建模和时序事件分析叠在一起。台球桌是一个紧凑但刁钻的样本:从残缺的视觉观测里,重建多个相互作用物体的动力学——机器人和工业机器视觉里,同类问题一样会出现。