我们团队的 PyTorch 模型在 Jupyter Notebook 里表现完美,单元测试覆盖率也接近100%,但部署到 OpenFaaS 上的生产环境后,问题接踵而至。模型推理延迟偶尔飙升,特定类型输入的错误率莫名升高,甚至出现过模型版本
2023-10-27