k8s kubernetes 1.23.6 + flannel公网环境安装

2023-10-20 08:52
文章标签 云原生 安装 kubernetes 环境 k8s 公网 flannel 1.23

本文主要是介绍k8s kubernetes 1.23.6 + flannel公网环境安装，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

准备环境，必须是同一个云服务厂商，如：华为，阿里、腾讯等，不要存在跨平台安装K8S，跨平台安装需要处理网络隧道才能实现所有节点在一个网络集群中，这里推荐使用同一家云服务厂商安装即可 这里使用centos7进行安装：

必须先开通端口 2380 2379 10250 10257 10259 6443 否则会网络卡死（主节点主机安装即可）
开通安全组端口：

2376/tcp、2379/tcp、2380/tcp、6443/tcp、8472/udp、9099/tcp、10250/tcp、10254/tcp、30000-32767/tcp、udp

1、升级linux内核版本，提高性能：
CentOS 允许使用 ELRepo，这是一个第三方仓库，可以将内核升级到最新版本。
在 CentOS 7 上启用 ELRepo 仓库，运行如下命令：

# 导入该源的秘钥
rpm --import https://www.elrepo.org/RPM-GPG-KEY-elrepo.org# 启用该源仓库 如果失败用下方
rpm -Uvh http://www.elrepo.org/elrepo-release-7.0-2.el7.elrepo.noarch.rpm

# 查看有哪些内核版本可供安装
yum --disablerepo="*" --enablerepo="elrepo-kernel" list available
[root@VM-12-2-centos ~]# yum --disablerepo="*" --enablerepo="elrepo-kernel" list available
已加载插件：fastestmirror, langpacks
Loading mirror speeds from cached hostfile
Could not retrieve mirrorlist http://mirrors.elrepo.org/mirrors-elrepo-kernel.el7 error was
12: Timeout on http://mirrors.elrepo.org/mirrors-elrepo-kernel.el7: (28, 'Connection timed out after 30001 milliseconds')* elrepo-kernel: elrepo.org
可安装的软件包
kernel-lt-devel.x86_64                                                                                               5.4.258-1.el7.elrepo                                                                                    elrepo-kernel
kernel-lt-doc.noarch                                                                                                 5.4.258-1.el7.elrepo                                                                                    elrepo-kernel
kernel-lt-headers.x86_64                                                                                             5.4.258-1.el7.elrepo                                                                                    elrepo-kernel
kernel-lt-tools.x86_64                                                                                               5.4.258-1.el7.elrepo                                                                                    elrepo-kernel
kernel-lt-tools-libs.x86_64                                                                                          5.4.258-1.el7.elrepo                                                                                    elrepo-kernel
kernel-lt-tools-libs-devel.x86_64                                                                                    5.4.258-1.el7.elrepo                                                                                    elrepo-kernel
kernel-ml.x86_64                                                                                                     6.5.7-1.el7.elrepo                                                                                      elrepo-kernel
kernel-ml-devel.x86_64                                                                                               6.5.7-1.el7.elrepo                                                                                      elrepo-kernel
kernel-ml-doc.noarch                                                                                                 6.5.7-1.el7.elrepo                                                                                      elrepo-kernel
kernel-ml-headers.x86_64                                                                                             6.5.7-1.el7.elrepo                                                                                      elrepo-kernel
kernel-ml-tools.x86_64                                                                                               6.5.7-1.el7.elrepo                                                                                      elrepo-kernel
kernel-ml-tools-libs.x86_64                                                                                          6.5.7-1.el7.elrepo                                                                                      elrepo-kernel
kernel-ml-tools-libs-devel.x86_64                                                                                    6.5.7-1.el7.elrepo                                                                                      elrepo-kernel
perf.x86_64                                                                                                          5.4.258-1.el7.elrepo                                                                                    elrepo-kernel
python-perf.x86_64                                                                                                   5.4.258-1.el7.elrepo                                                                                    elrepo-kernel

选择版本安装，推荐使用 安装的长期稳定版本

# 安装的是主线版本，该版本比较激进，慎重选择
yum --enablerepo=elrepo-kernel install kernel-ml -y

# 安装的长期稳定版本，稳定可靠
yum --enablerepo=elrepo-kernel install kernel-lt -y

设置 GRUB 默认升级的内核版本

vi  /etc/default/grubGRUB_TIMEOUT=0 #设置为0
GRUB_DISTRIBUTOR="$(sed 's, release .*$,,g' /etc/system-release)"
GRUB_DEFAULT=0 #这里的saved改为0即可，重启后，默认就是你上次所选的版本了。
GRUB_DISABLE_SUBMENU=true
GRUB_TERMINAL_OUTPUT="console"
GRUB_CMDLINE_LINUX="rhgb quiet"
GRUB_DISABLE_RECOVERY="true"

执行命令让配置生效：

# 配置项生效
grub2-mkconfig -o /boot/grub2/grub.cfg
# 重启主机
reboot

测试是否升级完成

uname -r

调整系统临时区 — 如果已经设置时区，所有机器都要配置
1）设置系统时区为中国/上海

timedatectl set-timezone Asia/Shanghai

2）将当前的 UTC 时间写入硬件时钟

timedatectl set-local-rtc 0

3）重启依赖于系统时间的服务

systemctl restart rsyslog
systemctl restart crond

安装必要依赖

yum update
yum install -y conntrack ntpdate ntp ipvsadm ipset jq iptables curl sysstat libseccomp wget vim net-tools git iproute lrzsz bash-completion tree bridge-utils unzip bind-utils gcc

关闭firewalld和selinux（在k8s集群master和node上都进行操作）

#关闭防火墙
systemctl stop firewalld 
systemctl disable firewalld
#关闭selinux防火墙
sed -i "s/SELINUX=enforcing/SELINUX=disabled/g" /etc/selinux/config
setenforce 0
getenforce

关闭交换分区

swapoff -a
cp /etc/fstab /etc/fstab_bak
cat /etc/fstab_bak |grep -v swap > /etc/fstab

修改内核参数 网络转发

cat <<EOF >> /etc/sysctl.conf
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
net.ipv4.ip_nonlocal_bind = 1
net.ipv4.ip_forward = 1
vm.swappiness=0
EOF

sysctl -p 让参数生效到内核里面

sysctl -p

可能出现异常
sysctl: cannot stat /proc/sys/net/bridge/bridge-nf-call-ip6tables: 没有那个文件或目录
sysctl: cannot stat /proc/sys/net/bridge/bridge-nf-call-iptables: 没有那个文件或目录
解决 加载相关模块：

modprobe  br_netfilter

再执行使其生效
sysctl -p

安装docker

#卸载podman软件（可以使用rpm -qa|grep docker）
yum remove docker
#下载docker-ce源(国外可使用阿里源)
curl https://download.docker.com/linux/centos/docker-ce.repo -o /etc/yum.repos.d/docker-ce.repo
# 直接使用阿里deocker-ce源
yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

注意k8s同docker有版本对应：以下版本匹配
docker官网指定版本安装格式
yum install docker-ce-<VERSION_STRING> docker-ce-cli-<VERSION_STRING> containerd.io docker-compose-plugin

# 指定docker版本 20.10.12 这里安装k8s 1.23.6
yum install docker-ce-20.10.12 docker-ce-cli-20.10.12 containerd.io docker-compose-plugin

配置docker这里使用阿里镜像源，拉取镜像快

sudo mkdir -p /etc/docker
sudo tee /etc/docker/daemon.json <<-'EOF'
{
"registry-mirrors": ["https://yxt.mirror.aliyuncs.com"],
"exec-opts": ["native.cgroupdriver=systemd"]
}
EOF
# 配置生效
systemctl daemon-reload
# 重启docker
systemctl restart docker

公网环境安装，k8s需要构建内部的局域网环境，可以使用配置主机虚拟网卡实现

#注意替换你的公网IP进去 IPADDR=公网IP
cat > /etc/sysconfig/network-scripts/ifcfg-eth0:1 <<EOF
NAME=eth0:1
DEVICE=eth0:1
TYPE=Ethernet
ONBOOT=yes
BOOTPROTO=static
NETMASK=255.255.255.0
IPADDR=1.2.3.4
EOF

或者直接使用ifconfig配置

ifconfig eth0:1 1.2.3.4 netmask 255.255.255.0 promisc

使用ifconfig查询网卡是否生效，如没有生效可以重新网卡

systemctl restart network.service
systemctl restart network

安装kubadm，kubctl，kublet软件 添加kubernetes yum软件阿里镜像源

cat > /etc/yum.repos.d/kubernetes.repo << EOF
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=0
repo_gpgcheck=0
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF

安装kubeadm，kubelet，kubectl，并且指定版本，因为1.23的版本默认运行时环境不是docker了

yum install -y kubeadm-1.23.6 kubelet-1.23.6 kubectl-1.23.6

公网环境安装完成后修改kubelet将公网IP配置

vim /usr/lib/systemd/system/kubelet.service.d/10-kubeadm.conf
# 在末尾添加参数 --node-ip=node节点的公网IP --node-ip=1.2.3.4
# Note: This dropin only works with kubeadm and kubelet v1.11+
[Service]
Environment="KUBELET_KUBECONFIG_ARGS=--bootstrap-kubeconfig=/etc/kubernetes/bootstrap-kubelet.conf --kubeconfig=/etc/kubernetes/kubelet.conf"
Environment="KUBELET_CONFIG_ARGS=--config=/var/lib/kubelet/config.yaml"
# This is a file that "kubeadm init" and "kubeadm join" generates at runtime, populating the KUBELET_KUBEADM_ARGS variable dynamically
EnvironmentFile=-/var/lib/kubelet/kubeadm-flags.env
# This is a file that the user can use for overrides of the kubelet args as a last resort. Preferably, the user should use
# the .NodeRegistration.KubeletExtraArgs object in the configuration files instead. KUBELET_EXTRA_ARGS should be sourced from this file.
EnvironmentFile=-/etc/sysconfig/kubelet
ExecStart=
ExecStart=/usr/bin/kubelet $KUBELET_KUBECONFIG_ARGS $KUBELET_CONFIG_ARGS $KUBELET_KUBEADM_ARGS $KUBELET_EXTRA_ARGS --node-ip=1.2.3.4

# 让配置生效
systemctl daemon-reload#启动 kubelet / 重启 kubelet
systemctl enable kubelet && systemctl start kubelet
#systemctl restart kubelet

安装完成后这里必须先加载k8s初始化数据（重要）：
kubelet ：运行在cluster，负责启动pod管理容器
kubeadm ：k8s快速构建工具，用于初始化cluster
kubectl ：k8s命令工具，部署和管理应用，维护组件

# 查看是否都正常安装成功
kubelet --version
kubectl version
kubeadm version

启动kube
systemctl daemon-reload
systemctl enable kubelet && systemctl start kubelet

安装完之后主节点需要往下配置，而子节点部需要再往下执行配置
以下是主节点配置
拉取init-config配置 并修改配置 init-config 主要是由 api server、etcd、scheduler、controller-manager、coredns等镜像构成

mkdir k8s-config
cd ./k8s-config
kubeadm config print init-defaults > init-config.yaml

配置初始化脚本init-config.yaml
修改 master节点ip localAPIEndpoint > advertiseAddress 公网IP
advertiseAddress: 1.2.3.4.5
修改master主机名 nodeRegistration > name
name: k8s-master
修改镜像仓库
imageRepository: registry.aliyuncs.com/google_containers
增加网卡 这里使用flannel网络插件需要保持flannel网卡配置
podSubnet: 10.244.0.0/16
完成修改

apiVersion: kubeadm.k8s.io/v1beta3
bootstrapTokens:
- groups:
- system:bootstrappers:kubeadm:default-node-token
token: abcdef.0123456789abcdef
ttl: 24h0m0s
usages:
- signing
- authentication
kind: InitConfiguration
localAPIEndpoint:
advertiseAddress: 101.34.112.190 # 指定master节点的IP地址（公网）
bindPort: 6443
nodeRegistration:
criSocket: /var/run/dockershim.sock
imagePullPolicy: IfNotPresent
name: master01 # 改成master的主机名
taints: null
---
apiServer:
timeoutForControlPlane: 4m0s
apiVersion: kubeadm.k8s.io/v1beta3
certificatesDir: /etc/kubernetes/pki
clusterName: kubernetes
controllerManager: {}
dns: {}
etcd:
local:
dataDir: /var/lib/etcd
imageRepository: registry.aliyuncs.com/google_containers # 默认为k8s.gcr.io，但是网络不通，所以要替换为阿里云镜像
kind: ClusterConfiguration
kubernetesVersion: 1.23.6 # 指定kubernetes版本号，使用kubeadm config print init-defaults生成的即可
networking:
dnsDomain: cluster.local
serviceSubnet: 10.96.0.0/12
podSubnet: 10.244.0.0/16 # 指定pod网段，10.244.0.0/16用于匹配flannel默认网段
scheduler: {}

# 启动k8s服务，等等dockers自动拉取镜像
kubeadm init --config=init-config.yaml

正常启动 记录好生成token 和 sha256，字节点加入主节点命令
kubeadm join 101.34.112.190:6443 --token d1lqeo.7nksmtc43cq74ma3 --discovery-token-ca-cert-hash sha256:eba86afe4c9e50f6ede0880bd2b74ff340e5319f7eb4517ffc6b8101c9fea6b8
主节点重新获取加入命令

kubeadm token create --print-join-command --ttl 0

# 完成初始化的新建文件和目录的操作，在master上完成
mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config

配置网络 使用flannl

# 拉取脚本
wget https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml

公网环境配置kube-flannel.yml

# 篇幅较长只提供必要修改点
containers:
- name: kube-flannel
image: docker.io/flannel/flannel:v0.22.3
command:
- /opt/bin/flanneld
args:
- --public-ip=$(PUBLIC_IP)  # 启用公网IP
- --iface=eth0              # 启用eth0上面已经配置虚拟的一张公网网卡
- --ip-masq
- --kube-subnet-mgr
resources:requests:cpu: "100m"memory: "50Mi"
securityContext:privileged: falsecapabilities:add: ["NET_ADMIN", "NET_RAW"]
env:
- name: PUBLIC_IP       # 配置公网IP环境变量valueFrom:fieldRef:fieldPath: status.podIP
- name: POD_NAME

将配置文件kube-flannel.yml启用
kubectl apply -f kube-flannel.yml

等待k8s依赖镜像拉取和容器启动即可

子节点使用：
kubeadm join [主节点ip]:6443 --token [主节点启动后生成] --discovery-token-ca-cert-hash sha256:[主节点启动后生成]
加入到主节点中。

查看pod执行情况
kubectl get pod -A
在这里插入图片描述
如果coredns-*一直处于非 Running状态时候直接删除coredns-*的pod，kubectl重新建立即可

查看各个节点接入情况Ready-正常接入完成
kubectl get nodes
在这里插入图片描述
公网环境搭建关键点：
k8s集群是建立在一个互通的内网（局域网）中，需要flannel网络插件实现内网IP和公网IP的自动转换并流入指定的主机，各个节点保证集群内部IP互通。
简单部署nginx验证各个节点内网IP是否能正常通信
kubectl create deployment nginx --image=ginx:latest --port=80 --replicas=3
查看部署nginx pod实列情况
kubectl get pods -A -o wide
![在这里插入图片描述](https://img-blog.csdnimg.cn/289b296c341843bc93e6fc8398206577.png#pic_center在这里插入图片描述
ping各个节点集群内部IP数据包部丢失则公网环境搭建成功。
如果安装失败需要卸载重装执行：

sudo kubeadm reset -f
yum -y remove kubelet kubeadm kubectl
sudo rm -rvf $HOME/.kube
sudo rm -rvf ~/.kube/
sudo rm -rvf /etc/kubernetes/
sudo rm -rvf /etc/systemd/system/kubelet.service.d
sudo rm -rvf /etc/systemd/system/kubelet.service
sudo rm -rvf /usr/bin/kube*
sudo rm -rvf /etc/cni
sudo rm -rvf /opt/cni
sudo rm -rvf /var/lib/etcd
sudo rm -rvf /var/etcd

再重新安装即可

这篇关于k8s kubernetes 1.23.6 + flannel公网环境安装的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/246055。

相关文章

Zookeeper安装和配置说明

Zookeeper安装和配置说明

一、Zookeeper的搭建方式 Zookeeper安装方式有三种，单机模式和集群模式以及伪集群模式。 ■ 单机模式：Zookeeper只运行在一台服务器上，适合测试环境； ■ 伪集群模式：就是在一台物理机上运行多个Zookeeper 实例； ■ 集群模式：Zookeeper运行于一个集群上，适合生产环境，这个计算机集群被称为一个“集合体”（ensemble） Zookeeper通过复制来实现
阅读更多...
CentOS7安装配置mysql5.7 tar免安装版

CentOS7安装配置mysql5.7 tar免安装版

一、CentOS7.4系统自带mariadb # 查看系统自带的Mariadb[root@localhost~]# rpm -qa|grep mariadbmariadb-libs-5.5.44-2.el7.centos.x86_64# 卸载系统自带的Mariadb[root@localhost ~]# rpm -e --nodeps mariadb-libs-5.5.44-2.el7
阅读更多...
Centos7安装Mongodb4

Centos7安装Mongodb4

1、下载源码包 curl -O https://fastdl.mongodb.org/linux/mongodb-linux-x86_64-rhel70-4.2.1.tgz 2、解压 放到 /usr/local/ 目录下 tar -zxvf mongodb-linux-x86_64-rhel70-4.2.1.tgzmv mongodb-linux-x86_64-rhel70-4.2.1/
阅读更多...
Centos7安装JDK1.8保姆版

Centos7安装JDK1.8保姆版

工欲善其事，必先利其器。这句话同样适用于学习Java编程。在开始Java的学习旅程之前，我们必须首先配置好适合的开发环境。 通过事先准备好这些工具和配置，我们可以避免在学习过程中遇到因环境问题导致的代码异常或错误。一个稳定、高效的开发环境能够让我们更加专注于代码的学习和编写，提升学习效率，减少不必要的困扰和挫折感。因此，在学习Java之初，投入一些时间和精力来配置好开发环境是非常值得的。这将为我
阅读更多...
阿里开源语音识别SenseVoiceWindows环境部署

阿里开源语音识别SenseVoiceWindows环境部署

SenseVoice介绍 SenseVoice 专注于高精度多语言语音识别、情感辨识和音频事件检测多语言识别： 采用超过 40 万小时数据训练，支持超过 50 种语言，识别效果上优于 Whisper 模型。富文本识别：具备优秀的情感识别，能够在测试数据上达到和超过目前最佳情感识别模型的效果。支持声音事件检测能力，支持音乐、掌声、笑声、哭声、咳嗽、喷嚏等多种常见人机交互事件进行检测。高效推
阅读更多...
安装nodejs环境

安装nodejs环境

本文介绍了如何通过nvm(NodeVersionManager)安装和管理Node.js及npm的不同版本，包括下载安装脚本、检查版本并安装特定版本的方法。 1、安装nvm curl -o- https://raw.githubusercontent.com/nvm-sh/nvm/v0.39.0/install.sh | bash 2、查看nvm版本 nvm --version 3、安装
阅读更多...
Kubernetes PodSecurityPolicy：PSP能实现的5种主要安全策略

Kubernetes PodSecurityPolicy：PSP能实现的5种主要安全策略

Kubernetes PodSecurityPolicy：PSP能实现的5种主要安全策略 1. 特权模式限制2. 宿主机资源隔离3. 用户和组管理4. 权限提升控制5. SELinux配置 💖The Begin💖点点关注，收藏不迷路💖 Kubernetes的PodSecurityPolicy（PSP）是一个关键的安全特性，它在Pod创建之前实施安全策略，确保P
阅读更多...
90、k8s之secret+configMap

90、k8s之secret+configMap

一、secret配置管理 配置管理： 加密配置：保存密码，token，其他敏感信息的k8s资源 应用配置：我们需要定制化的给应用进行配置，我们需要把定制好的配置文件同步到pod当中容器 1.1、加密配置： secret： [root@master01 ~]# kubectl get secrets ##查看加密配置[root@master01 ~]# kubectl get se
阅读更多...
【IPV6从入门到起飞】5-1 IPV6+Home Assistant(搭建基本环境)

【IPV6从入门到起飞】5-1 IPV6+Home Assistant(搭建基本环境)

【IPV6从入门到起飞】5-1 IPV6+Home Assistant #搭建基本环境 1 背景2 docker下载 hass3 创建容器4 浏览器访问 hass5 手机APP远程访问hass6 更多玩法 1 背景 既然电脑可以IPV6入站，手机流量可以访问IPV6网络的服务，为什么不在电脑搭建Home Assistant（hass），来控制你的设备呢？@智能家居 @万物互联
阅读更多...
高并发环境中保持幂等性

高并发环境中保持幂等性

在高并发环境中保持幂等性是一项重要的挑战。幂等性指的是无论操作执行多少次，其效果都是相同的。确保操作的幂等性可以避免重复执行带来的副作用。以下是一些保持幂等性的常用方法： 唯一标识符： 请求唯一标识：在每次请求中引入唯一标识符（如 UUID 或者生成的唯一 ID），在处理请求时，系统可以检查这个标识符是否已经处理过，如果是，则忽略重复请求。幂等键（Idempotency Key）：客户端在每次
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2