环境

角色 主机名 操作系统 软件
数据库 - - docker 20.10
k3s server k3s-server0 RockyLinux 8.5 docker 20.10, k3s v1.23.9
k3s server k3s-server1 RockyLinux 8.5 docker 20.10, k3s v1.23.9
k3s agent k3s-agent0 RockyLinux 8.5 docker 20.10, k3s v1.23.9
k3s agent k3s-agent1 RockyLinux 8.5 docker 20.10, k3s v1.23.9
  • 全部服务器关闭 firewalld、selinux 和 swap,设置时间同步
  • 全部 k3s 服务器(除了数据库)必须设置唯一主机名

安装数据库

  • 在数据库服务器上执行如下操作

  • 启动 docker 容器

    1
    2
    3
    4
    5
    6
    7
    
    docker run -d \
        --name mysql \
        -p 3306:3306 \
        -v /data/mariadb/binlog:/var/lib/mysql-bin \
        -v /data/mariadb/db:/var/lib/mysql \
        -v /data/mariadb/log:/var/log/mysql \
        harbor.colben.cn/general/mysql:8
    
  • 创建 k3s 数据库

    1
    2
    3
    4
    5
    
    docker exec mysql mysql -e "
        CREATE DATABASE k3s DEFAULT CHARSET UTF8MB4;
        CREATE USER k3s@'%' IDENTIFIED BY 'Password_1234';
        GRANT ALL ON k3s.* TO k3s@'%';
    "
    

安装 k3s server

  • 在每台 k3s server 服务器上执行如下操作

  • 下载并安装 k3s

    1
    2
    3
    4
    
    cd /usr/local/bin/
    curl -LO https://github.com/k3s-io/k3s/releases/download/v1.23.9%2Bk3s1/k3s
    chmod 0755 k3s
    ln -s k3s kubectl
    
  • 创建 systemd 服务文件 /etc/systemd/system/k3s-server.service,内容如下

     1
     2
     3
     4
     5
     6
     7
     8
     9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    
    [Unit]
    Description=Lightweight Kubernetes
    Documentation=https://k3s.io
    Wants=network-online.target
    After=network-online.target
    
    [Install]
    WantedBy=multi-user.target
    
    [Service]
    Type=notify
    KillMode=process
    Delegate=yes
    LimitNOFILE=infinity
    LimitNPROC=infinity
    LimitCORE=infinity
    TasksMax=infinity
    TimeoutStartSec=0
    Restart=always
    RestartSec=5s
    SuccessExitStatus=1
    ExecStartPre=-/sbin/modprobe br_netfilter
    ExecStartPre=-/sbin/modprobe overlay
    ExecStart=/usr/local/bin/k3s \
        server \
        --docker \
        --token "123456" \
        --bind-address "0.0.0.0" \
        --https-listen-port "6443" \
        --cluster-cidr "10.42.0.0/16" \
        --service-cidr "10.43.0.0/16" \
        --pause-image "harbor.colben.cn/k3s/pause:3.6" \
        --disable "coredns,servicelb,traefik,local-storage,metrics-server" \
        --datastore-endpoint "mysql://k3s:Password_1234@tcp({mysql 地址}:{mysql 端口})/k3s"
    
  • 重载 systemd 系统服务,启动 k3s-server 服务

    1
    2
    
    systemctl daemon-reload
    systemctl start k3s-server
    
  • 多个 k3s-server 服务可通过 keepalived 配置高可用,参考keepalived 笔记

安装 k3s agent

  • 在每台 k3s agent 服务器上执行如下操作

  • 下载并安装 k3s

    1
    2
    3
    
    cd /usr/local/bin/
    curl -LO https://github.com/k3s-io/k3s/releases/download/v1.23.9%2Bk3s1/k3s
    chmod 0755 k3s
    
  • 创建 systemd 服务文件 /etc/systemd/system/k3s-agent.service,内容如下

     1
     2
     3
     4
     5
     6
     7
     8
     9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    
    [Unit]
    Description=Lightweight Kubernetes
    Documentation=https://k3s.io
    Wants=network-online.target
    After=network-online.target
    
    [Install]
    WantedBy=multi-user.target
    
    [Service]
    Type=notify
    KillMode=process
    Delegate=yes
    LimitNOFILE=infinity
    LimitNPROC=infinity
    LimitCORE=infinity
    TasksMax=infinity
    TimeoutStartSec=0
    Restart=always
    RestartSec=5s
    SuccessExitStatus=1
    ExecStartPre=-/sbin/modprobe br_netfilter
    ExecStartPre=-/sbin/modprobe overlay
    ExecStart=/usr/local/bin/k3s \
        agent \
        --docker \
        --token "123456" \
        --server "https://{任一 server 地址或 server 高可用地址}:6443" \
        --pause-image "harbor.colben.cn/k3s/pause:3.6" \
    
  • 重载 systemd 系统服务,启动 k3s-agent 服务

    1
    2
    
    systemctl daemon-reload
    systemctl start k3s-agent
    

常用操作

  • 查看节点信息

    1
    
    kubectl get nodes
    
  • 标记 server 节点不可调度

    1
    
    kubectl cordon k3s-server{0..1}
    
  • 设置 agent 节点的角色为 worker

    1
    
    kubectl label nodes k3s-agent{0..1} kubernetes.io/role=worker --overwrite
    

注意事项

  • k3s 内部 ssl 证书有效期一年,可在到期前重启 k3s 集群轮换证书