k8s与etcd--备份etcd数据到s3

yintaolaowanzi 发布于2019-07-01 17:35 / 2699人阅读

摘要：可想而知，的重要性。因而做好数据备份工作至关重要。备份数据到能做的备份方案很多，但是大同小异，基本上都是利用了命令来完成。设置一下，就可以帮助我们定时删除旧数据，保留新的备份数据。部署方案选择中的比较合适，我的备份策略是每三小时备份一次。

前言

整个k8s诸多组件几乎都是无状态的，所有的数据保存在etcd里，可以说etcd是整个k8s集群的数据库。可想而知，etcd的重要性。因而做好etcd数据备份工作至关重要。这篇主要讲一下我司的相关的实践。

备份etcd数据到s3

能做etcd的备份方案很多，但是大同小异，基本上都是利用了etcdctl命令来完成。

为什么选择s3那？

因为我们单位对于aws使用比较多，另外我们希望我们备份到一个高可用的存储中，而不是部署etcd的本机中。

此外，s3支持存储的生命周期的设置。设置一下，就可以aws帮助我们定时删除旧数据，保留新的备份数据。

具体方案

我们基本上用了etcd-backup这个项目，当然也fork了，做了稍微的更改，主要是更改了dockerfile。将etcdctl 修改为我们线上实际的版本。

修改之后的dockerfile如下：

FROM alpine:3.8

RUN apk add --no-cache curl

# Get etcdctl
ENV ETCD_VER=v3.2.24
RUN 
  cd /tmp && 
  curl -L https://storage.googleapis.com/etcd/${ETCD_VER}/etcd-${ETCD_VER}-linux-amd64.tar.gz | 
  tar xz -C /usr/local/bin --strip-components=1

COPY ./etcd-backup /
ENTRYPOINT ["/etcd-backup"]
CMD ["-h"]

之后就是docker build之类了。

k8s部署方案

选择k8s中的cronjob比较合适，我的备份策略是每三小时备份一次。

cronjob.yaml:

apiVersion: batch/v1beta1
kind: CronJob
metadata:
  name: etcd-backup
  namespace: kube-system
spec:
  schedule: "0 */4 * * *"
  successfulJobsHistoryLimit: 2
  failedJobsHistoryLimit: 2
  jobTemplate:
    spec:
      # Job timeout
      activeDeadlineSeconds: 300
      template:
        spec:
          tolerations:
          # Tolerate master taint
          - key: node-role.kubernetes.io/master
            operator: Exists
            effect: NoSchedule
          # Container creates etcd backups.
          # Run container in host network mode on G8s masters
          # to be able to use 127.0.0.1 as etcd address.
          # For etcd v2 backups container should have access
          # to etcd data directory. To achive that,
          # mount /var/lib/etcd3 as a volume.
          nodeSelector:
            node-role.kubernetes.io/master: ""
          containers:
          - name: etcd-backup
            image: iyacontrol/etcd-backup:0.1
            args:
            # backup guest clusters only on production instalations
            # testing installation can have many broken guest clusters
            - -prefix=k8s-prod-1
            - -etcd-v2-datadir=/var/lib/etcd
            - -etcd-v3-endpoints=https://172.xx.xx.221:2379,https://172.xx.xx.83:2379,https://172.xx.xx.246:2379
            - -etcd-v3-cacert=/certs/ca.crt
            - -etcd-v3-cert=/certs/server.crt
            - -etcd-v3-key=/certs/server.key
            - -aws-s3-bucket=mybucket
            - -aws-s3-region=us-east-1
            volumeMounts:
            - mountPath: /var/lib/etcd
              name: etcd-datadir
            - mountPath: /certs
              name: etcd-certs
            env:
              - name: ETCDBACKUP_AWS_ACCESS_KEY
                valueFrom:
                  secretKeyRef:
                    name: etcd-backup
                    key: ETCDBACKUP_AWS_ACCESS_KEY
              - name: ETCDBACKUP_AWS_SECRET_KEY
                valueFrom:
                  secretKeyRef:
                    name: etcd-backup
                    key: ETCDBACKUP_AWS_SECRET_KEY
              - name: ETCDBACKUP_PASSPHRASE
                valueFrom:
                  secretKeyRef:
                    name: etcd-backup
                    key: ETCDBACKUP_PASSPHRASE
          volumes:
          - name: etcd-datadir
            hostPath:
              path: /var/lib/etcd
          - name: etcd-certs
            hostPath:
              path: /etc/kubernetes/pki/etcd/
          # Do not restart pod, job takes care on restarting failed pod.
          restartPolicy: Never
          hostNetwork: true

注意：容忍和 nodeselector配合，让pod调度到master节点上。

然后secret.yaml:

apiVersion: v1
kind: Secret
metadata:
  name: etcd-backup
  namespace: kube-system
type: Opaque
data:
  ETCDBACKUP_AWS_ACCESS_KEY: QUtJTI0TktCT0xQRlEK
  ETCDBACKUP_AWS_SECRET_KEY: aXJ6eThjQnM2MVRaSkdGMGxDeHhoeFZNUDU4ZGRNbgo=
  ETCDBACKUP_PASSPHRASE: ""

总结

之前我们尝试过，etcd-operator来完成backup。实际使用过程中，发现并不好，概念很多，组件复杂，代码很多写法太死。

最后选择etcd-backup。主要是因为简单，less is more。看源码，用golang编写，扩展自己的一些需求，也比较简单。

私有云超融合服务器 etcd存储k8s资源对象 etcd linux下数据同步到s3 php上传图片到s3

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/33123.html

k8s与etcd--备份etcd数据到s3

摘要：可想而知，的重要性。因而做好数据备份工作至关重要。备份数据到能做的备份方案很多，但是大同小异，基本上都是利用了命令来完成。设置一下，就可以帮助我们定时删除旧数据，保留新的备份数据。部署方案选择中的比较合适，我的备份策略是每三小时备份一次。前言整个k8s诸多组件几乎都是无状态的，所有的数据保存在etcd里，可以说etcd是整个k8s集群的数据库。可想而知，etcd的重要性。因而做好e...

arashicage 2019-07-01 17:00 评论0 收藏0
k8s与etcd--备份etcd数据到s3

摘要：可想而知，的重要性。因而做好数据备份工作至关重要。备份数据到能做的备份方案很多，但是大同小异，基本上都是利用了命令来完成。设置一下，就可以帮助我们定时删除旧数据，保留新的备份数据。部署方案选择中的比较合适，我的备份策略是每三小时备份一次。前言整个k8s诸多组件几乎都是无状态的，所有的数据保存在etcd里，可以说etcd是整个k8s集群的数据库。可想而知，etcd的重要性。因而做好e...

alaege 2019-06-28 17:58 评论0 收藏0
Distributed Database Containers Deployment and Orc

摘要：首先介绍一下，是开发的完全开源的分布式数据库。但是对于我们的分布式数据库来说，带来了新的问题，因为的是可以无限，然而因为就必须为每个配置一个，从而增加了配置的复杂性。本文为 11 月 12 日，PingCAP 商业产品工具方向负责人刘寅分享的《分布式数据库 TiDB 容器化部署和编排实践》内容实录，为大家详细讲解如何在 K8s 上完成一个分布式数据库系统的容器化部署和编排。想必大家...

sorra 2019-07-31 16:38 评论0 收藏0
Rancher 2.2 GA：企业进入应用跨多K8S集群、混合云部署新时代

摘要：此次发布的版本包含对和的支持，以及对的支持。版本中，的进阶版监控功能以尊重多租户环境边界的方式部署了和。为应用目录程序提供了特定于集群和项目的配置。在全球拥有超过一亿的下载量，超过家企业客户。 Rancher 2.2 GA版本引入的创造性新功能，将进一步实现Kubernetes-as-a-service，使企业用户能够专注于加速创新和推动业务价值。 showImg(https://se...

NoraXie 2019-07-01 17:11 评论0 收藏0
etcd管理，证书配置，扩展，迁移恢复，带证书扩展节点

摘要：广告各版本离线安装包证书配置生产环境中给配置证书相当重要，如果没有证书，那么集群很容易被黑客利用而去挖矿什么的。细节问题非常多，一个端口，一个都不要填错，否则就会各种错误包括新加节点要清数据这些小细节问题。广告 | kubernetes各版本离线安装包 etcd 证书配置生产环境中给etcd配置证书相当重要，如果没有证书，那么k8s集群很容易被黑客利用而去挖矿什么的。做法非常简单...

张汉庆 2019-06-28 16:34 评论0 收藏0