运营中心深度学习优化：交互响应提速40%

　　跟产品吵。昨天下午三点，PM 把运营中心那页 Deep Learning 模块的 Figma 发我，说“交互延迟太肉”，我点开链接的时候正把冰美式往左手边推——结果杯子滑了，洒在键盘上，键帽底下渗出咖啡渍，Ctrl+C 都粘连了两下。我擦完手去倒水，前端小陈蹲在茶水间啃冷掉的月饼，包装袋上印着“去年中秋”。他抬头看我一眼，没说话，但手里的叉子停了半秒。

　　我原以为是模型 inference 环节拖垮了 pipeline，结果抓包一看，request 早就回了，Response Body 三百七十二 KB 的 JSON 还带嵌套六层的 operation_log。浏览器在 parse 和 render 中间卡了整整十七毫秒——不是 JS 执行，是 JSON.parse() 自身卡顿。这个我敢打包票：V8 的 JSON 解析器在遇到长字符串字段里混着 base64 图片片段时，会触发内部 string consing 的 fallback 路径，性能掉得比后端降级开关还快。可没人提这事，连 Lighthouse 跑分截图发到群里都没人回，只看见群名右上角一直挂着个红点，三天没清。

文章配图，仅供参考

　　但真提速的，是另外两件事。第一件：把 model.load() 从组件 mount 后移到页面空闲时用 requestIdleCallback 预加载——不是懒加载，是错峰加载。第二件：把原来每次 interaction 都重跑一遍 feature scaling 的逻辑，改成查表 + cache key 哈希，key 是 input range min/max 的字符串拼接，长度固定，哈希值直接打到 Map 结构里。这两步做完，响应时间曲线突然变平，40% 不是平均值，是 P95，是“点下去之后你手指还没抬起来就看到反馈”的那个阈值。优点？就是优胜劣汰。活下来的字段，必须能回答三个问题：它被读过吗？被谁读？不读它会不会炸？其余全杀。没商量。

　　桌面那个没关的录屏，还在后台跑着，右下角角落里一个半透明窗口，进度条缓慢挪动。我没关，怕打断正在重跑的 CI。CI 里有个 test_case_dl_interaction_072，它上周起就开始 flaky：有时通过，有时超时，有时报“model is not compiled”。其实编译了，只是编译耗时飘忽，在 Node.js 的 process.nextTick 循环里撞上了 GC pause，导致 mock 的 onInferenceComplete 回调晚触发了一帧。这种问题你没法写监控，只能靠人盯。前天凌晨两点，我改了三行代码：把 callback 改成 Promise.resolve().then()，然后加了个 setImmediate 包一层。通过率升到 98.7%，剩下 1.3% 我说了不准，反正 release note 里不会写。

　　话说回来，CDN 账单上上个月多出来二十一万，全是 deep-learning-model-2023q3.bin.gz 的边缘缓存回源费用。运维甩锅说“模型太大”，我说：“模型大你早该预警，现在扯缓存，不如去问老板，为什么训练完模型不导出量化版本就直接丢 prod？”他转头去修 K8s node label 了，走的时候踢翻了垃圾桶——里面全是去年中秋的月饼盒，塑料托盘叠得整整齐齐，像某种仪式。

　　我们试过 server-side rendering 那套，也试过 WebAssembly 编译，最后全扔了。不是不好，是重。运营中心这个模块，日均 PV 八百万，但峰值交互集中在早十点和晚八点两个十五分钟窗口，其余时间它就是个静态报表页。你给静态报表页配 GPU 加速？不如把按钮 hover 的 transition-duration 从 0.3s 改成 0.24s，视觉上还更快一点。真实世界里没有银弹，只有取舍：取响应快，舍日志全；取可维护，舍历史兼容；取 P95 提速，舍 P1 故障时 traceability。你问我有没有后悔删 operation_log？没后悔。但我昨天翻 backtrace 日志发现有两起线上报错堆栈里漏掉了那个字段的原始 context，定位花了四十分钟——这事儿我不打算补，因为补了就会倒退，又得重新跑一轮 load test，而 load test 脚本里用的测试数据还是去年中秋那批模拟数据，脏得离谱。

　　下周我把 infer 接口的采样率从 100% 降到 5%，抽样日志写进 Kafka 分区 topic_infer_profile_2023_q4，只留关键路径 trace_id 和 duration。不为分析，只为防某天又有人拎着“体验下降”来敲我键盘。要是真掉下去，至少能看清是哪个 layer 掉的。至于别的……等下季度再吵吧。我现在先去把录屏关了，它占了 1.8GB 内存，而我的 MacBook 风扇声，已经响了整整四十七分钟。

（编辑：站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!