2026年8月28日,我登不上自家AI代理的仪表盘。查着查着,跑它的那台Proxmox节点自己打完补丁重启了——反倒帮我把真正的问题暴露了出来,问题不在仪表盘。

打开网易新闻 查看精彩图片

09:05:37,节点执行了apt-get dist-upgrade。这是我给自己定的打补丁路径,不是意外。Proxmox VE从9.2.2升到9.2.11,顺带拉进来一个新内核。09:09节点重启。没有任何定时器安排这次重启,它是补丁流程带出来的。

然后代理的仪表盘花了大约15分钟才响应一个请求。这整段时间里,挡在它前面的Caddy一直回502。

问题出在盘上

这台节点上所有guest都住在一块盘里:一块931.5G的5400转机械盘。快的Optane只有13G,只够放Proxmox根系统。

重启之后,五个容器同时在这一个主轴上进行冷启动。其中重的几个是:

  • ClickHouse,跑在我的Langfuse容器里
  • MariaDB,外加一个正在跑python manage.py migrate的Django,在3D打印机监控容器里
  • Nextcloud

结果/proc/pressure/io的full avg60冲到81,负载平均值23,iowait 87%。

我检查了存储本身是不是坏了。没有。thin pool只用了7.8%,没有IO错误,device-mapper和ext4都没报故障。这就是纯粹的寻道争抢:一堆东西同时想读一块慢盘上的不同位置。这事没有调优旋钮可拧。机械盘同一时刻只能待在一个地方。

该认的信号

这部分是我真正想记下来的:

  • 对代理的web服务跑systemctl is-active,显示active——但它的端口上没有任何东西在监听
  • 进程处于D状态(不可中断睡眠),wchan显示wait_on_buffer、d_alloc_parallel或dm_thin_find_block

"active"加上"没在监听",看起来像服务挂了。最直觉的动作是重启它。别。带这些等待通道的D状态意味着它在等磁盘。它没崩。重启只会把同样的IO再排一次队,排到所有人后面。

真正缩短了等待的操作

我停掉了Langfuse容器。它纯粹做追踪,没有东西依赖它必须在线,而ClickHouse是那台机器上启动时最重的东西。

仪表盘21秒后就起来了。

等/proc/pressure/io的full avg60降到25以下,我重新启动了Langfuse。这花了260秒。

我刻意没停的是打印机监控容器。它在启动时跑Django数据库迁移,把迁移杀在半路是真能把东西弄坏的。要挑那个又重又不要紧的guest,不是挑最重的那个。

另外值得知道:每个guest都设了onboot: 1,它们确实都会自己回来。有几个只是慢。所以启动后一分钟看到"stopped"不算故障,动手戳之前再看一眼。

启动慢连带弄坏的两件事

启动一慢,那些只因为以前启动快才成立的东西就露馅了。

  1. 网关看门狗恰好在我最需要它的时候死了。我有一个systemd定时器,代理网关挂掉就重启它,在启动后2分钟触发(OnBootSec=2min)。这次启动,2分钟不够root的用户管理器建出/run/user/0,看门狗的systemctl --user调用以"Failed to connect to bus"失败。于是那个负责复活网关的东西,在唯一重要的一次启动里失败了。修法:看门狗脚本现在最多等60秒用户总线(必要时自己启动user@0.service),失败时退出0而不是报错。再加一个带After=和Wants=user@0.service的drop-in。
  2. systemd-journal-flush.service在容器里90秒超时,把容器留在了degraded状态。这个纯属连带伤害,之前每次启动它都正常。等IO平息后跑一次systemctl restart systemd-journal-flush就清掉了。

写这个修复时的一个附带教训

我最初写新看门狗脚本的方式是:heredoc通过ssh进节点,再pct exec进容器,再bash -lc。三层引号。文件里最后留下一个字面量的\$(seq ...),语法错误,unit启动失败。

可行的做法:本地写好文件,base64 -w0,管道送进去在另一头解码。启动unit之前先跑bash -n检查一遍。

我会怎么改

  • 别把所有guest都放在一块机械盘上。我知道。真正的解法是换SSD,这篇文章里没有任何东西能替代它。
  • 风暴来临前先搞清楚哪个guest是你的泄压阀。对我来说是那个追踪容器:够重,而且五分钟没人会想念它。
  • 永远不要靠重启一个D状态进程来"解卡"。先看/proc//wchan
  • 在慢启动上测试你的看门狗。一个只在其他一切正常时才工作的看门狗,算不上看门狗。
  • 打补丁引起的重启也是重启。冷启动时发生的事,你每次给宿主机打补丁都会发生一遍。

这事还有后续。一个月后同一个节点又重启了一次,风暴期间一个插件加载缓慢,让我的Discord机器人离线了一周,期间没有任何东西发现。那篇我单独写了。

你现在还在哪块最慢的盘上跑guest?我那块5400转的,暂时还在。