K3s里安装rancher的坑

用docker安装rancher很简单,但是用k3s/k8s安装rancher有点麻烦,这里记录一下遇到的问题。

我这里需要在外部终止tls,不能走k3s的https。

首先是装k3s的时候的命令行,注意:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
cat << EOF > /etc/default/k3s
CATTLE_NEW_SIGNED_CERT_EXPIRATION_DAYS=3650
EOF
curl -sfL https://rancher-mirror.rancher.cn/k3s/k3s-install.sh | \
INSTALL_K3S_SKIP_SELINUX_RPM=true \
K3S_KUBECONFIG_MODE="644" \
INSTALL_K3S_MIRROR=cn \
INSTALL_K3S_VERSION=v1.34.6+k3s1 \
sh -s - server \
  --docker \
  --cluster-init \
  --default-local-storage-path=/data/k3s

后续节点:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
cat << EOF > /etc/default/k3s
CATTLE_NEW_SIGNED_CERT_EXPIRATION_DAYS=3650
EOF
curl -sfL https://rancher-mirror.rancher.cn/k3s/k3s-install.sh | \
INSTALL_K3S_SKIP_SELINUX_RPM=true \
K3S_KUBECONFIG_MODE="644" \
INSTALL_K3S_MIRROR=cn \
INSTALL_K3S_VERSION=v1.34.6+k3s1 \
K3S_TOKEN="<第一个节点查看/var/lib/rancher/k3s/server/node-token>" \
sh -s - server \
  --server https://<第一个节点ip>:6443 \
  --docker \
  --default-local-storage-path=/data/k3s

这里需要把证书改为10年有效期,省得总是续期。

然后修改了默认存储的位置。

通过helm安装rancher,需要注意虽然helm出了4,但是k3s目前只支持helm3。然后就是虽然k8s已经建议使用Gateway API,但是k3s默认仍然用ingress,且默认是关闭GatewayAPI的。

1
helm install rancher rancher-stable/rancher --namespace cattle-system --set hostname=<访问域名> --set bootstrapPassword=<初始密码> --set tls=external

在nginx处配置:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
upstream rancher {
        server 192.168.110.33:80;
        server 192.168.110.34:80;
        server 192.168.110.35:80;
}

map $http_upgrade $connection_upgrade {
    default Upgrade;
    ''      close;
}


server {
    listen 32004 ssl;
    http2 on;
    server_name <域名>;
    ssl_certificate /etc/nginx/certs/fullchain.cer;
    ssl_certificate_key /etc/nginx/certs/private.key;
    client_max_body_size 0;
    location / {
        proxy_pass http://rancher;

        proxy_http_version 1.1;
        proxy_set_header Host $host;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_set_header X-Forwarded-Port $server_port;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;

        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection $connection_upgrade;

        proxy_read_timeout 1800s;
        proxy_send_timeout 1800s;
        proxy_connect_timeout 30s;
        proxy_buffering off;
    }
}

特别注意我这里没有用443,如果能用443可以省不少事。

然后要修改K3s默认的ingress配置:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
apiVersion: helm.cattle.io/v1
kind: HelmChartConfig
metadata:
  name: traefik
  namespace: kube-system
spec:
  valuesContent: |-
    additionalArguments:
      - "--entryPoints.web.forwardedHeaders.insecure=true"
      - "--entryPoints.websecure.forwardedHeaders.insecure=true"

这里是要信任上一层传过来的数据,不然请求80会重定向到443.

0%