别信 docker run 的退出码
起服务、探端点这个动作,我一周至少干几十次。写脚本的时候一次,改一行配置重启的时候一次,半夜三点怀疑机器是不是挂了的时候再来一次。 docker run 这条命令一秒就返回,退出码 0。看着一切正常。真正的端点要等到第 160 秒才接得上请求——权重加载、torch.compile、计算图捕获,全在这两分半里默默发生。

起服务、探端点这个动作,我一周至少干几十次。写脚本的时候一次,改一行配置重启的时候一次,半夜三点怀疑机器是不是挂了的时候再来一次。 docker run 这条命令一秒就返回,退出码 0。看着一切正常。真正的端点要等到第 160 秒才接得上请求——权重加载、torch.compile、计算图捕获,全在这两分半里默默发生。

它会打印 timeout,然后退出 124。 它会打印同样的 timeout 警告,然后 RAN ANYWAY 出现在输出里,退出 0。同一个端口、同样的超时,只差一个 strict,一个死、一个装活。 这个 0 是整件事里最刺眼的数字。
