如何实现k8s高可用

一、控制平面高可用设计

1. 多主节点部署
   • API Server 冗余：部署至少 3 个 Master 节点，每个节点运行独立的 API Server，通过负载均衡器（如 Nginx、HAProxy、云厂商 LB）对外提供统一入口。

   • 选举机制：Scheduler 和 Controller Manager 通过 --leader-elect=true 参数启用选举模式，同一时间仅有一个实例活跃，其他作为备用。

2. etcd 集群优化
   • 奇数节点部署：推荐 3 或 5 节点 etcd 集群，满足 Raft 算法的多数存活条件（quorum）。

   • 数据持久化与备份：使用 SSD 存储 etcd 数据，定期备份快照以应对灾难恢复。

3. 网络与负载均衡
   • VIP 配置：通过 Keepalived 实现虚拟 IP（VIP），自动切换故障节点。

   • 跨区域部署：在多地部署 API Server 和 etcd，结合云服务商跨区域 LB 增强容灾能力。

---

二、数据平面高可用设计

1. 工作节点冗余
   • 多节点部署：至少部署 3 个工作节点，通过 PodAntiAffinity 策略分散应用副本，避免单点故障。

   • 自动修复：结合 Cluster Autoscaler，当节点故障时自动扩容新节点并迁移 Pod。

2. Pod 调度策略
   • 副本控制：使用 Deployment/StatefulSet 管理多副本，通过 replicas 参数维持最小可用实例数。

   • 优先级与抢占：配置 PriorityClass 确保关键服务优先调度。

3. 服务发现与负载均衡
   • Service 类型：使用 LoadBalancer 或 Ingress 对外暴露服务，结合 Endpoints 自动更新流量路由。

   • DNS 冗余：部署多副本 CoreDNS，确保服务名解析高可用。

---

三、存储与网络高可用

1. 分布式存储方案
   • 持久化存储：集成 Ceph、GlusterFS 等分布式存储系统，提供跨节点数据冗余。

   • 动态卷供应：通过 StorageClass 自动创建 PV，支持存储卷的动态扩展与迁移。

2. 网络架构优化
   • CNI 插件选择：采用 Calico、Flannel 等支持 BGP 或 VXLAN 的网络方案，确保跨节点通信稳定。

   • 网络策略：配置 NetworkPolicy 实现微服务隔离，降低故障扩散风险。

---

四、监控与故障恢复

1. 健康检测与告警
   • 探针配置：为关键服务设置 livenessProbe 和 readinessProbe，自动重启异常容器。

   • 监控工具：部署 Prometheus + Grafana 监控集群状态，Alertmanager 实现阈值告警。

2. 灾难恢复策略
   • 定期备份：使用 Velero 备份集群资源与持久卷数据，支持跨集群恢复。

   • 故障演练：通过 Chaos Monkey 或 Litmus 注入节点/网络故障，验证高可用设计的有效性。

---

五、最佳实践与工具链

1. 自动化部署
   • 使用 kubeadm、RKE 或 Kubespray 快速搭建多 Master 集群。

   • 结合 Ansible/Terraform 实现基础设施即代码（IaC）。

2. 版本与配置管理
   • 定期升级 Kubernetes 版本，修复已知漏洞。

   • 通过 OPA/Gatekeeper 实施集群策略，避免配置错误导致可用性下降。

---

总结
实现 Kubernetes 高可用需从控制平面、数据平面、存储网络、监控运维四个维度协同设计。典型方案如：3 Master + 3 etcd 节点 + 多工作节点 + Ceph 存储 + 跨区 LB。实际部署时需根据业务规模选择组件冗余级别，并通过持续测试优化容灾能力。