构建生产就绪的ML模型到底需要什么

Source: Dev.to

机器学习中最大的谎言

如果你在机器学习领域稍微有点经验，你一定见过这种模式：

• 训练模型
• 获得 90%+ 的准确率
• 发截图
• 感觉自己是 AI 神

但现实是：准确率是机器学习最容易的部分。

Kaggle 与现实（幻想 vs. 生存模式）

在 Kaggle

• 清洗数据集
• 问题已解决
• 没有延迟问题
• 没有愤怒的用户

在真实世界

• 数据混乱
• 特征随时消失
• 延迟比准确率更重要
• 某些东西一定会在凌晨 2 点崩溃

没人提醒你的那些事

1. 延迟会让你谦卑

你的模型：“我达到了 94% 的准确率。”
你的 API：“酷。现在把它控制在 20 ms 以内，否则滚蛋。”

• 华丽的模型 ≠ 可用的模型
• 速度比那额外的 1 % 准确率更重要

2. 内存是隐藏的敌人

你会想：“把所有东西都存下来，怎么会有问题？”

• 生产环境会触及 RAM 限制
• 系统开始报错，基础设施成本飙升
• 突然之间你得像拯救生命一样去优化

3. 数据…根本不稳定

训练数据： 整洁、干净、完美
真实数据： 混乱——缺失值、奇怪的类别、意外输入、你从未想象过的边缘案例

• 你的模型没有出错……是数据出了问题

4. 批处理 vs. 实时 = 两个不同的世界

批处理： 悠闲、放松、没有压力
实时： 每毫秒都很关键

• 在离线环境能工作的东西，在请求频繁、数据多变或系统扩容时会崩溃

“好 ML”的真实定义

它不是：

• 最高的准确率
• 最炫的模型
• 最长的流水线

它是能够可靠、快速、并且在约束条件下运行的模型。

没有人能逃脱的权衡

每个机器学习系统都在平衡：

• 准确率
• 速度
• 内存

选两个。

那么到底什么才重要？

如果你对机器学习很认真（而不是只做教程），请这样思考：

• 它能跑得够快吗？
• 它能处理脏乱的数据吗？
• 它能扩展吗？
• 它能在真实使用中存活吗？

如果不能……那就还没准备好。

机器学习不是单纯训练模型，而是构建在真实世界中不会崩溃的系统。