资讯专栏INFORMATION COLUMN

上云采购季！| 2核2G4M爆款云服务器低至59元/年，更有多台、长期优惠，快来选购！

立即前往
首页/文章专栏/【从零开始安装kubernetes-1.7.3】3.安装MASTER与NODE组件（CA配置）

【从零开始安装kubernetes-1.7.3】3.安装MASTER与NODE组件（CA配置）

xiangchaobin / 2068人阅读

摘要：拷贝到目录拷贝到其他配置首次启动时向发送请求，验证请求中的是否与它配置的一致，如果一致则自动为生成证书和秘钥。

</>复制代码 
  1. 紧接上一章
8. MASTER节点配置 8.1 安装组件

上传kubernetes-server-linux-amd64.tar.gz

</>复制代码 
  1. tar -xzvf kubernetes-server-linux-amd64.tar.gz
  2. cd kubernetes
  3. cp -r server/bin/{kube-apiserver,kube-controller-manager,kube-scheduler,kubectl,kube-proxy,kubelet} /usr/local/bin/

适用所有Master

8.2 创建kubectl与apiserver通信证书 
</>复制代码 
  1. cd /opt/ssl
  2. #vi admin-csr.json
  3. {
  4.   "CN": "admin",
  5.   "hosts": [],
  6.   "key": {
  7.     "algo": "rsa",
  8.     "size": 2048
  9.   },
  10.   "names": [
  11.     {
  12.       "C": "CN",
  13.       "ST": "ShangHai",
  14.       "L": "ShangHai",
  15.       "O": "system:masters",
  16.       "OU": "System"
  17.     }
  18.   ]
  19. }
  20. # 生成 admin 证书和私钥
  21. cd /opt/ssl/
  22. cfssl gencert -ca=/etc/kubernetes/ssl/ca.pem 
  23.   -ca-key=/etc/kubernetes/ssl/ca-key.pem 
  24.   -config=/etc/kubernetes/ssl/config.json 
  25.   -profile=kubernetes admin-csr.json | cfssljson -bare admin
  26. # 查看生成
  27. [root@localhost ssl]# ls -ltr admin*
  28. -rw-r--r--. 1 root root  231 Jul 27 17:06 admin-csr.json
  29. -rw-r--r--. 1 root root 1407 Jul 27 17:07 admin.pem
  30. -rw-------. 1 root root 1679 Jul 27 17:07 admin-key.pem
  31. -rw-r--r--. 1 root root 1013 Jul 27 17:07 admin.csr
  32. #拷贝至证书目录
  33. cp admin*.pem /etc/kubernetes/ssl/
8.3 配置kubectl的kubeconfig文件

配置 kubernetes 集群

</>复制代码 
  1. kubectl config set-cluster kubernetes 
  2.   --certificate-authority=/etc/kubernetes/ssl/ca.pem 
  3.   --embed-certs=true 
  4.   --server=https://192.168.116.123:6443

配置 客户端认证

</>复制代码 
  1. kubectl config set-credentials admin 
  2.   --client-certificate=/etc/kubernetes/ssl/admin.pem 
  3.   --embed-certs=true 
  4.   --client-key=/etc/kubernetes/ssl/admin-key.pem
  5. kubectl config set-context kubernetes 
  6.   --cluster=kubernetes 
  7.   --user=admin
  8. kubectl config use-context kubernetes

分发kubectl config文件

</>复制代码 
  1. mkdir /root/.kube
  2. scp /root/.kube/config root@192.168.116.124:/root/.kube/
8.4 生成kubernetes证书和私钥。 
</>复制代码 
  1. cd /opt/ssl
  2. vi kubernetes-csr.json
  3. [root@k8s-master-1 ssl]# cat kubernetes-csr.json
  4. {
  5.   "CN": "kubernetes",
  6.   "hosts": [
  7.     "127.0.0.1",
  8.     "192.168.116.123",
  9.     "192.168.116.124",
  10.     "10.254.0.1",
  11.     "kubernetes",
  12.     "kubernetes.default",
  13.     "kubernetes.default.svc",
  14.     "kubernetes.default.svc.cluster",
  15.     "kubernetes.default.svc.cluster.local"
  16.   ],
  17.   "key": {
  18.     "algo": "rsa",
  19.     "size": 2048
  20.   },
  21.   "names": [
  22.     {
  23.       "C": "CN",
  24.       "ST": "ShangHai",
  25.       "L": "ShangHai",
  26.       "O": "k8s",
  27.       "OU": "System"
  28.     }
  29.   ]
  30. }

这里 hosts 字段中 三个 IP 分别为 127.0.0.1 本机， 192.168.116.x为 Master 的IP， 10.254.0.1 为 kubernetes SVC 的 IP， 一般是 部署网络的第一个IP , 如: 10.254.0.1 ， 在启动完成后，我们使用 kubectl get svc ， 就可以查看到。

</>复制代码 
  1. cfssl gencert -ca=/etc/kubernetes/ssl/ca.pem 
  2.   -ca-key=/etc/kubernetes/ssl/ca-key.pem 
  3.   -config=/etc/kubernetes/ssl/config.json 
  4.   -profile=kubernetes kubernetes-csr.json | cfssljson -bare kubernetes

拷贝到目录

cp -r kubernetes* /etc/kubernetes/ssl/

拷贝到其他Master

scp -r kubernetes* root@192.168.116.124:/etc/kubernetes/ssl/

8.5 配置kube-apiserver

kubelet 首次启动时向 kube-apiserver 发送 TLS Bootstrapping 请求，kube-apiserver 验证 kubelet 请求中的 token 是否与它配置的 token 一致，如果一致则自动为 kubelet生成证书和秘钥。

生成token

</>复制代码 
  1. head -c 16 /dev/urandom | od -An -t x | tr -d " "
  2. 结果：ed7b961401dc857ead33f9fb38ab62bc

创建token.csv文件

</>复制代码 
  1. [root@k8s-master-1 ssl]# cat token.csv 
  2. ed7b961401dc857ead33f9fb38ab62bc,kubelet-bootstrap,10001,"system:kubelet-bootstrap"

拷贝至目录

</>复制代码 
  1. cp token.csv /etc/kubernetes/
8.6 创建kube-apiserver.service文件

开启RBAC

</>复制代码 
  1. #vi /usr/lib/systemd/system/kube-apiserver.service
  2. [Unit]
  3. Description=Kubernetes API Server
  4. Documentation=https://github.com/GoogleCloudPlatform/kubernetes
  5. After=network.target
  6. [Service]
  7. User=root
  8. ExecStart=/usr/bin/kube-apiserver 
  9.   --admission-control=NamespaceLifecycle,LimitRanger,ServiceAccount,DefaultStorageClass,ResourceQuota 
  10.   --advertise-address=192.168.116.123 
  11.   --allow-privileged=true 
  12.   --apiserver-count=3 
  13.   --audit-log-maxage=30 
  14.   --audit-log-maxbackup=3 
  15.   --audit-log-maxsize=100 
  16.   --audit-log-path=/var/lib/audit.log 
  17.   --authorization-mode=RBAC 
  18.   --bind-address=192.168.116.123 
  19.   --client-ca-file=/etc/kubernetes/ssl/ca.pem 
  20.   --enable-swagger-ui=true 
  21.   --etcd-cafile=/etc/kubernetes/ssl/ca.pem 
  22.   --etcd-certfile=/etc/kubernetes/ssl/kubernetes.pem 
  23.   --etcd-keyfile=/etc/kubernetes/ssl/kubernetes-key.pem 
  24.   --etcd-servers=https://192.168.116.123:2379 
  25.   --event-ttl=1h 
  26.   --kubelet-https=true 
  27.   --insecure-bind-address=192.168.116.123 
  28.   --runtime-config=rbac.authorization.k8s.io/v1alpha1 
  29.   --service-account-key-file=/etc/kubernetes/ssl/ca-key.pem 
  30.   --service-cluster-ip-range=10.254.0.0/16 
  31.   --service-node-port-range=30000-32000 
  32.   --tls-cert-file=/etc/kubernetes/ssl/kubernetes.pem 
  33.   --tls-private-key-file=/etc/kubernetes/ssl/kubernetes-key.pem 
  34.   --experimental-bootstrap-token-auth 
  35.   --token-auth-file=/etc/kubernetes/token.csv 
  36.   --v=2
  37. Restart=on-failure
  38. RestartSec=5
  39. Type=notify
  40. LimitNOFILE=65536
  41. [Install]
  42. WantedBy=multi-user.target

这里面要注意的是 --service-node-port-range=30000-32000
这个地方是 映射外部端口时 的端口范围，随机映射也在这个范围内映射，指定映射端口必须也在这个范围内。

</>复制代码 
  1. systemctl daemon-reload
  2. systemctl enable kube-apiserver
  3. systemctl start kube-apiserver
  4. systemctl status kube-apiserver
8.7 配置kube-controller-manager

创建 kube-controller-manager.service 文件

</>复制代码 
  1. # vi /usr/lib/systemd/system/kube-controller-manager.service
  2. [Unit]
  3. Description=Kubernetes Controller Manager
  4. Documentation=https://github.com/GoogleCloudPlatform/kubernetes
  5. [Service]
  6. ExecStart=/usr/bin/kube-controller-manager 
  7.   --address=127.0.0.1 
  8.   --master=http://192.168.116.123:8080 
  9.   --allocate-node-cidrs=true 
  10.   --service-cluster-ip-range=10.254.0.0/16 
  11.   --cluster-cidr=10.254.0.0/16 
  12.   --cluster-name=kubernetes 
  13.   --cluster-signing-cert-file=/etc/kubernetes/ssl/ca.pem 
  14.   --cluster-signing-key-file=/etc/kubernetes/ssl/ca-key.pem 
  15.   --service-account-private-key-file=/etc/kubernetes/ssl/ca-key.pem 
  16.   --root-ca-file=/etc/kubernetes/ssl/ca.pem 
  17.   --leader-elect=true 
  18.   --v=2
  19. Restart=on-failure
  20. RestartSec=5
  21. [Install]
  22. WantedBy=multi-user.target
</>复制代码 
  1. systemctl daemon-reload
  2. systemctl enable kube-controller-manager
  3. systemctl start kube-controller-manager
  4. systemctl status kube-controller-manager
8.9 配置kube-scheduler

创建 kube-scheduler.service 文件

</>复制代码 
  1. vi /usr/lib/systemd/system/kube-scheduler.service
  2. [Unit]
  3. Description=Kubernetes Scheduler
  4. Documentation=https://github.com/GoogleCloudPlatform/kubernetes
  5. [Service]
  6. ExecStart=/usr/bin/kube-scheduler 
  7.   --address=127.0.0.1 
  8.   --master=http://192.168.116.123:8080 
  9.   --leader-elect=true 
  10.   --v=2
  11. Restart=on-failure
  12. RestartSec=5
  13. [Install]
  14. WantedBy=multi-user.target

启动kube-schedular

</>复制代码 
  1. systemctl daemon-reload
  2. systemctl enable kube-scheduler
  3. systemctl start kube-scheduler
  4. systemctl status kube-scheduler

验证MASTER节点

kubectl get componentstatuses

其他MASTER节点：

证书包含了所有Master节点IP，可以拷贝
Token.csv可以拷贝
Apiserver、controller-manager、scheduler的service文件均可以拷贝后更改IP

9 NODE节点配置

上传 kubernetes-client-linux-amd64.tar.gz

</>复制代码 
  1. tar -zxvf kubernetes-client-linux-amd64.tar.gz
  2. cp kubernetes/client/bin/* /usr/local/bin/
  3. chmod a+x /usr/local/bin/kube*

这里说明一下，server包里包括了client包里的所有二进制程序，这里也可以直接将server包里的相同文件拷贝出来，不需要client这个包。

9.1 配置kubelet

kubelet 启动时向 kube-apiserver 发送 TLS bootstrapping 请求，需要先将 bootstrap token 文件中的 kubelet-bootstrap 用户赋予 system:node-bootstrapper 角色，然后 kubelet 才有权限创建认证请求(certificatesigningrequests)。

</>复制代码 
  1. 先创建认证请求 user 为 master 中 token.csv 文件里配置的用户 只需在一个node中创建一次就可以
    Master节点执行
</>复制代码 
  1. kubectl create clusterrolebinding kubelet-bootstrap --clusterrole=system:node-bootstrapper --user=kubelet-bootstrap

配置集群

</>复制代码 
  1. kubectl config set-cluster kubernetes 
  2.   --certificate-authority=/etc/kubernetes/ssl/ca.pem 
  3.   --embed-certs=true 
  4.   --server=https://192.168.116.123:6443 
  5.   --kubeconfig=bootstrap.kubeconfig

配置客户端认证

</>复制代码 
  1. kubectl config set-credentials kubelet-bootstrap 
  2.   --token=ed7b961401dc857ead33f9fb38ab62bc 
  3.   --kubeconfig=bootstrap.kubeconfig

配置关联

</>复制代码 
  1. kubectl config set-context default 
  2.   --cluster=kubernetes 
  3.   --user=kubelet-bootstrap 
  4.   --kubeconfig=bootstrap.kubeconfig

配置默认关联

</>复制代码 
  1. kubectl config use-context default --kubeconfig=bootstrap.kubeconfig

拷贝生成的 bootstrap.kubeconfig 文件

</>复制代码 
  1. mv bootstrap.kubeconfig /etc/kubernetes/
9.2 创建kubelet.service文件

创建kubelet目录

</>复制代码 
  1. mkdir /var/lib/kubelet
  2. vi /usr/lib/systemd/system/kubelet.service
  3. [Unit]
  4. Description=Kubernetes Kubelet
  5. Documentation=https://github.com/GoogleCloudPlatform/kubernetes
  6. After=docker.service
  7. Requires=docker.service
  8. [Service]
  9. WorkingDirectory=/var/lib/kubelet
  10. ExecStart=/usr/bin/kubelet 
  11.   --address=192.168.116.123 
  12.   --hostname-override=192.168.116.123 
  13.   --pod-infra-container-image=192.168.116.123:80/library/pod-infrastructure:latest 
  14.   --experimental-bootstrap-kubeconfig=/etc/kubernetes/bootstrap.kubeconfig 
  15.   --kubeconfig=/etc/kubernetes/kubelet.kubeconfig 
  16.   --require-kubeconfig 
  17.   --cert-dir=/etc/kubernetes/ssl 
  18.   --cluster_dns=10.254.0.2 
  19.   --cluster_domain=cluster.local 
  20.   --hairpin-mode promiscuous-bridge 
  21.   --allow-privileged=true 
  22.   --serialize-image-pulls=false 
  23.   --logtostderr=true 
  24.   --v=2
  25. Restart=on-failure
  26. RestartSec=5
  27. [Install]
  28. WantedBy=multi-user.target

如上配置:
198.15.5.30 为本机的IP
10.254.0.2 预分配的 dns 地址
cluster.local. 为 kubernetes 集群的 domain
jicki/pause-amd64:3.0 这个是 pod 的基础镜像，既 gcr 的 gcr.io/google_containers/pause-amd64:3.0 镜像， 下载下来修改为自己的仓库中的比较快。

启动kubelet

</>复制代码 
  1. systemctl daemon-reload
  2. systemctl enable kubelet
  3. systemctl start kubelet
  4. systemctl status kubelet
9.3 配置TLS认证。

Master节点 查看 csr 的名称

</>复制代码 
  1. kubectl get csr

增加 认证

</>复制代码 
  1. kubectl certificate approve node-csr-OL4lCAbeWUnCOFyPwBPVG2v4aXNDcfJDYtPFaGL7ApU

然后状态就会变成这样

9.4 验证Nodes 
</>复制代码 
  1. kubectl get nodes

成功以后Node节点会自动生成配置文件与密钥
配置文件

</>复制代码 
  1. ls -ltr /etc/kubernetes/kubelet.kubeconfig

密钥文件

</>复制代码 
  1. ls -ltr /etc/kubernetes/ssl/kubelet*
9.5 配置kube-proxy

证书方面由于我们node端没有装 cfssl
我们回到 master 端 机器 去配置证书，然后拷贝过来

</>复制代码 
  1. cd /opt/ssl
  2. vi kube-proxy-csr.json
  3. {
  4.   "CN": "system:kube-proxy",
  5.   "hosts": [],
  6.   "key": {
  7.     "algo": "rsa",
  8.     "size": 2048
  9.   },
  10.   "names": [
  11.     {
  12.       "C": "CN",
  13.       "ST": "ShangHai",
  14.       "L": "ShangHai",
  15.       "O": "k8s",
  16.       "OU": "System"
  17.     }
  18.   ]
  19. }

生成kube-proxy证书和私钥

</>复制代码 
  1. cfssl gencert -ca=/etc/kubernetes/ssl/ca.pem 
  2.   -ca-key=/etc/kubernetes/ssl/ca-key.pem 
  3.   -config=/etc/kubernetes/ssl/config.json 
  4.   -profile=kubernetes  kube-proxy-csr.json | cfssljson -bare kube-proxy

查看生成：

</>复制代码 
  1. ls -ltr kube-proxy*
  2. kube-proxy.csr  kube-proxy-csr.json  kube-proxy-key.pem  kube-proxy.pem

拷贝到目录：

</>复制代码 
  1. cp kube-proxy* /etc/kubernetes/ssl/

拷贝到node节点：
scp kube-proxy* root@198.15.5.30:/etc/kubernetes/ssl/

9.6创建kube-proxy kubeconfig文件

Node节点 配置集群

</>复制代码 
  1. kubectl config set-cluster kubernetes 
  2.   --certificate-authority=/etc/kubernetes/ssl/ca.pem 
  3.   --embed-certs=true 
  4.   --server=https://192.168.116.123:6443 
  5.   --kubeconfig=kube-proxy.kubeconfig

配置客户端认证

</>复制代码 
  1. kubectl config set-credentials kube-proxy 
  2.   --client-certificate=/etc/kubernetes/ssl/kube-proxy.pem 
  3.   --client-key=/etc/kubernetes/ssl/kube-proxy-key.pem 
  4.   --embed-certs=true 
  5.   --kubeconfig=kube-proxy.kubeconfig

配置关联

</>复制代码 
  1. kubectl config set-context default 
  2.   --cluster=kubernetes 
  3.   --user=kube-proxy 
  4.   --kubeconfig=kube-proxy.kubeconfig

配置默认关联

</>复制代码 
  1. kubectl config use-context default --kubeconfig=kube-proxy.kubeconfig

拷贝到目录

</>复制代码 
  1. mv kube-proxy.kubeconfig /etc/kubernetes/
9.4创建kube-proxy.service文件

创建 kube-proxy 目录

</>复制代码 
  1. mkdir -p /var/lib/kube-proxy
  2. vi /usr/lib/systemd/system/kube-proxy.service
  3. [Unit]
  4. Description=Kubernetes Kube-Proxy Server
  5. Documentation=https://github.com/GoogleCloudPlatform/kubernetes
  6. After=network.target
  7. [Service]
  8. WorkingDirectory=/var/lib/kube-proxy
  9. ExecStart=/usr/bin/kube-proxy 
  10.   --bind-address=192.168.116.123 
  11.   --hostname-override=192.168.116.5.123 
  12.   --cluster-cidr=10.254.0.0/16 
  13.   --kubeconfig=/etc/kubernetes/kube-proxy.kubeconfig 
  14.   --logtostderr=true 
  15.   --v=2
  16. Restart=on-failure
  17. RestartSec=5
  18. LimitNOFILE=65536
  19. [Install]
  20. WantedBy=multi-user.target

启动kube-proxy

</>复制代码 
  1. systemctl daemon-reload
  2. systemctl enable kube-proxy
  3. systemctl start kube-proxy
  4. systemctl status kube-proxy

其他NODE节点也按这个配置。

云服务器 GPU云服务器 安装与配置 安装与配置详解 laravel安装与配置 hadoop安装与配置

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/32579.html

相关文章

  • 【从零开始安装kubernetes-1.7.3】3.安装MASTER与NODE组件（CA配置）

    摘要：拷贝到目录拷贝到其他配置首次启动时向发送请求，验证请求中的是否与它配置的一致，如果一致则自动为生成证书和秘钥。 紧接上一章 8. MASTER节点配置 8.1 安装组件 上传kubernetes-server-linux-amd64.tar.gz tar -xzvf kubernetes-server-linux-amd64.tar.gz cd kubernetes cp -r ser...

    Shisui 评论0 收藏0

  • 【从零开始安装kubernetes-1.7.3】1.环境说明以及etcd配置（CA认证）

    摘要：所有主机关闭防火墙关闭所有节点主机防火墙关闭防火墙开机自启动关闭防火墙启动验证集群状态晚上回去更新第二篇从零开始安装以及的配置以及作用 1.环境说明 主机名 ip 说明 master-123(复用node) 192.168.116.123 etcd flannel kube-apiserver kube-controller-manager kube-scheduler ku...

    Gilbertat 评论0 收藏0

  • 【从零开始安装kubernetes-1.7.3】1.环境说明以及etcd配置（CA认证）

    摘要：所有主机关闭防火墙关闭所有节点主机防火墙关闭防火墙开机自启动关闭防火墙启动验证集群状态晚上回去更新第二篇从零开始安装以及的配置以及作用 1.环境说明 主机名 ip 说明 master-123(复用node) 192.168.116.123 etcd flannel kube-apiserver kube-controller-manager kube-scheduler ku...

    Doyle 评论0 收藏0

  • 【从零开始安装kubernetes-1.7.3】2.flannel、docker以及Harbor的配

    摘要：安装配置安装上传安装如果缺少依赖，注解是由于没使用，所以必须在里配置这个参数，才能访问。但是由于国内对国外网络访问的不可靠以及为了速度上的优化和管理上的方便，我们选择自己搭建一个私有的仓库，也就是。 5 Flannel网络 5.1 准备工作 上传二进制文件 tar -zxvf flannel-v0.8.0-rc1-linux-amd64.tar.gz cp flanneld...

    shaonbean 评论0 收藏0

发表评论

登陆后可评论

0条评论

xiangchaobin

男|高级讲师
我要私信

TA的文章

阅读更多
最新活动
阅读需要支付1元查看
<