Amazon EKS 中的弹性基础：如何在生产环境中设计容错工作负载

Source: Dev.to

🎯 1. 什么是 Kubernetes 与 EKS 环境下的弹性？

弹性是系统的能力：

• 即使出现故障仍能继续运行
• 自动恢复
• 受控降级
• 保持可靠性和可用性

在 Kubernetes/EKS 中，这体现在：

• 多可用区（multi‑AZ）
• 自动伸缩（autoscaling）
• readiness 与 liveness 探针
• 资源限制
• 安全的滚动发布（rollouts）
• 基础设施的自动伸缩

弹性并不意味着永不出错，而是优雅地处理错误。

🏗️ 2. 多可用区架构与自愈

EKS 简化了跨多个可用区（AZ）创建集群的过程，极大降低了中断风险。

为什么重要？

• 某个 AZ 失效 → 你的 Pod 会在其他 AZ 继续运行。

节点中断会通过以下方式自动处理：

• Managed Node Groups 自动恢复
• Kubernetes 自愈机制

最佳实践

• 在集群中使用 2 或 3 个 AZ。
• 优先使用 Managed Node Groups 或 EKS Auto Mode。
  （我有一篇文章进一步介绍 EKS Auto Mode）
• 配置 Pod Anti‑Affinity 将 Pod 分布到不同节点/AZ。

🔧 3. 探针：确保应用健康

Liveness Probe

检测卡死情况。若失败 → Kubernetes 重启 Pod。

Readiness Probe

决定 Pod 何时准备好接受流量。

Startup Probe

防止在启动缓慢的应用中出现 liveness 的误报。

最佳实践

• 始终定义合适的健康检查。
• 不要使用相同的 URL 作为 readiness 与 liveness。
• 调整时间参数：initialDelay、timeout、period。

📦 4. Requests、Limits 与 QoS

集群中大量事故源于资源使用不当，例如：

• 内存超额消耗
• CPU 高占用
• OOMKill
• 限流（throttling）

Requests

最低所需资源量。

Limits

Pod 能使用的最大资源量。

QoS

• Guaranteed
• Burstable
• BestEffort

最佳实践

• 必须同时设置 requests 与 limits。
• 监控 OOMKill 与 throttling。
• 在成熟的集群中评估 Vertical Pod Autoscaler。

📈 5. 自动伸缩：HPA、Karpenter 与 EKS Auto Mode

弹性还体现在自动适配。

HPA（Horizontal Pod Autoscaler）

根据以下指标伸缩 Pod：

• CPU
• 内存
• 延迟
• 自定义指标（Prometheus）

基础设施层面：Karpenter 或 EKS Auto Mode

• Karpenter 提供智能的节点供应。
• EKS Auto Mode 更进一步：
  • 基于 Pod 自动供应节点
  • 多可用区
  • 零配置 Node Group
  • 高弹性 + 成本降低

最佳实践

• 结合使用 HPA 与 Auto Mode/Karpenter。
• 配置 Pod Disruption Budgets。
• 在接受流量前确保 readiness 已就绪。

🔄 6. 弹性部署：Rolling、Blue/Green 与 Canary

Rolling Update

逐步更新，避免停机。

Blue/Green

新版本仅在验证通过后才接收流量。

Canary

根据指标逐步将流量切向新版本。

推荐工具

• Argo Rollouts
• AWS App Mesh
• NGINX Ingress Controller

最佳实践

• 避免破坏性变更。
• 使用功能标记（feature flags）。
• 监控每一步的 rollout 过程。

🧪 7. 弹性测试：混沌、负载与功能

Chaos Engineering

工具： ChaosMesh、LitmusChaos、AWS Fault Injection Simulator

常见场景： 节点故障、Pod 故障、网络丢失、人工延迟。

负载测试

K6、Locust、Artillery

功能测试

Robot Framework、Postman/Newman、Cypress（前端）

为什么重要？
能够发现瓶颈、异常行为以及缺乏容错的地方。

📊 8. 弹性可观测性

没有可视化，就没有弹性。

指标

Prometheus、CloudWatch、OpenTelemetry

日志

Fluent Bit、CloudWatch Logs、OpenSearch

链路追踪

X‑Ray、Jaeger、Tempo（Grafana）

最佳实践

• 创建 SLO 指标（延迟、错误率）。
• 为 Pods、Nodes、Deployments 构建专用仪表盘。
• 使用 CloudWatch 或 Alertmanager 设置自动告警。

🛣️ 9. Kubernetes 弹性核心模式

• Pod Disruption Budget (PDB)
• Pod Affinity/Anti‑Affinity
• Topology Spread Constraints
• Retry + Exponential Backoff
• Circuit Breaker
• 幂等性（Idempotency）
• 明确的超时（Timeouts）

这些模式可以防止：

• 故障级联
• 资源饱和
• 服务整体降级

🎯 10. 结论

EKS 提供了坚实的基础，但弹性仍取决于：

• 架构模式
• 运营实践
• 可观测性
• 持续测试
• DevOps 文化
• 智能自动化

通过落地这些基础，你将拥有能够：

• 容错的应用
• 自动伸缩
• 无需人工干预的自我恢复
• 在生产环境中交付可靠性

弹性是一门学科，而不是一个配置项。