通过分区提升 Node 应用响应性

Source: Dev.to

问题描述

我们有一个单一的 GET 接口，用来从数据库获取文档、进行转换并返回结果。对于部分客户端，需要一次性获取大量文档，这会阻塞 Node 的事件循环线程。当事件循环被阻塞时：

• 应用对新请求失去响应。
• 存活探针失败，Kubernetes 会重启 Pod。
• 小而快速的请求会出现不可预测的延迟。

重启变得非常频繁，而我们又不能仅仅通过添加分页并废弃这个旧接口来解决。我们需要一种短期方案，代码改动最小，以防止重启并提升应用的响应性。

解决方案

Node.js 提供了一种称为 partitioning（分区） 的技术。思路是将大型同步处理拆分为更小的任务，并在每个任务之间让出事件循环，从而让其他请求得以处理。

// Return a Promise that resolves on the next tick, letting the event loop process other work.
function yieldToEventLoop(): Promise {
  return new Promise((resolve) => setImmediate(resolve));
}

for (let i = 0; i < docs.length; i += smallBatchSize) {
  const batch = docs.slice(i, i + smallBatchSize);

  // Process the current batch
  output.push(...processBatch(batch));

  // Yield to the event loop before processing the next batch
  await yieldToEventLoop();
}

在每个批次后插入 await yieldToEventLoop()，事件循环就能处理其他请求，防止单个重负载请求导致整个进程被饿死。

关键要点

• 这种做法 不会 加快处理速度或降低 CPU 使用率。
• 它提升了应用的 响应性。
• 将工作切块并让出事件循环可以保持进程存活，提供临时缓解。

如果你的服务器执行大量计算密集型任务，请考虑 Node.js 是否是合适的选择。Node 擅长 I/O 密集型工作负载，而昂贵的 CPU 密集型任务可能更适合在其他环境中处理。详见 Node.js 文档中的 partitioning。

参考资料

• Don’t block the event loop – Partitioning
• Understanding setImmediate