myzypo
本站致力于IT相关技术的分享
在OpenFaaS中融合Loki与BDD实现PyTorch模型的可观测性驱动开发 在OpenFaaS中融合Loki与BDD实现PyTorch模型的可观测性驱动开发
我们团队的 PyTorch 模型在 Jupyter Notebook 里表现完美,单元测试覆盖率也接近100%,但部署到 OpenFaaS 上的生产环境后,问题接踵而至。模型推理延迟偶尔飙升,特定类型输入的错误率莫名升高,甚至出现过模型版本
2023-10-27