我们团队的 MLOps 平台遇到了一个典型的瓶颈:训练-服务偏斜(Training-Serving Skew)。模型训练时,特征工程师在 Snowflake 上用 SQL 跑出海量的批式特征;而在线上进行实时推断时,应用服务需要从一个低延迟
2023-10-27