当前位置 : 主页 > 操作系统 > centos >

K8S之list-watch机制+节点以及亲和性调度

来源:互联网 收集:自由互联 发布时间:2022-06-20
K8S之list-watch机制+节点以及亲和性调度 list-watch机制 Kubernetes 是通过 List-Watch 的机制进行每个组件的协作,保持数据同步的,每个组件之间的设计实现了解耦。 用户是通过 kubectl 根据配

K8S之list-watch机制+节点以及亲和性调度

list-watch机制

Kubernetes 是通过 List-Watch 的机制进行每个组件的协作,保持数据同步的,每个组件之间的设计实现了解耦。

用户是通过 kubectl 根据配置文件,向 APIServer 发送命令,在 Node 节点上面建立 Pod 和 Container。APIServer 经过 API 调用,权限控制,调用资源和存储资源的过程,实际上还没有真正开始部署应用。这里需要 Controller Manager、Scheduler 和 kubelet 的协助才能完成整个部署过程。在 Kubernetes 中,所有部署的信息都会写到 etcd 中保存。实际上 etcd 在存储部署信息的时候,会发送 Create 事件给 APIServer,而 APIServer 会通过监听(Watch)etcd 发过来的事件。其他组件也会监听(Watch)APIServer 发出来的事件。

list-watch工作流程

Pod是Kubernetes的基础单元,Pod 启动典型创建过程如下:

listwatch.png

  • 这里有三个 List-Watch,分别是 Controller Manager(运行在 Master),Scheduler(运行在 Master),kubelet(运行在 Node)。他们在进程已启动就会监听(Watch)APIServer 发出来的事件。
  • 用户通过 kubectl 或其他 API 客户端提交请求给 APIServer 来建立一个 Pod 对象副本。
  • APIServer 尝试着将 Pod 对象的相关元信息存入 etcd 中,待写入操作执行完成,APIServer 即会返回确认信息至客户端。
  • 当 etcd 接受创建 Pod 信息以后,会发送一个 Create 事件给 APIServer。
  • 由于 Controller Manager 一直在监听(Watch,通过http的8080端口)APIServer 中的事件。此时 APIServer 接受到了 Create 事件,又会发送给 Controller Manager。
  • Controller Manager 在接到 Create 事件以后,调用其中的 Replication Controller 来保证 Node 上面需要创建的副本数量。一旦副本数量少于 RC 中定义的数量,RC 会自动创建副本。总之它是保证副本数量的 Controller(PS:扩容缩容的担当)
  • 在 Controller Manager 创建 Pod 副本以后,APIServer 会在 etcd 中记录这个 Pod 的详细信息。例如 Pod 的副本数,Container 的内容是什么。
  • 同样的 etcd 会将创建 Pod 的信息通过事件发送给 APIServer。
  • 由于 Scheduler 在监听(Watch)APIServer,并且它在系统中起到了“承上启下”的作用,“承上”是指它负责接收创建的 Pod 事件,为其安排 Node;“启下”是指安置工作完成后,Node 上的 kubelet 进程会接管后继工作,负责 Pod 生命周期中的“下半生”。 换句话说,Scheduler 的作用是将待调度的 Pod 按照调度算法和策略绑定到集群中 Node 上。
  • Scheduler 调度完毕以后会更新 Pod 的信息,此时的信息更加丰富了。除了知道 Pod 的副本数量,副本内容。还知道部署到哪个 Node 上面了。并将上面的 Pod 信息更新至 API Server,由 APIServer 更新至 etcd 中,保存起来。
  • etcd 将更新成功的事件发送给 APIServer,APIServer 也开始反映此 Pod 对象的调度结果。
  • kubelet 是在 Node 上面运行的进程,它也通过 List-Watch 的方式监听(Watch,通过https的6443端口)APIServer 发送的 Pod 更新的事件。kubelet 会尝试在当前节点上调用 Docker 启动容器,并将 Pod 以及容器的结果状态回送至 APIServer。
  • APIServer 将 Pod 状态信息存入 etcd 中。在 etcd 确认写入操作成功完成后,APIServer将确认信息发送至相关的 kubelet,事件将通过它被接受。
  • 注意:在创建 Pod 的工作就已经完成了后,为什么 kubelet 还要一直监听呢?原因很简单,假设这个时候 kubectl 发命令,要扩充 Pod 副本数量,那么上面的流程又会触发一遍,kubelet 会根据最新的 Pod 的部署情况调整 Node 的资源。又或者 Pod 副本数量没有发生变化,但是其中的镜像文件升级了,kubelet 也会自动获取最新的镜像文件并且加载。

    节点调度

    调度过程

    Scheduler 是 kubernetes 的调度器,主要的任务是把定义的 pod分配到集群的节点上。其主要考虑的问题如下:

    公平:如何保证每个节点都能被分配资源

    资源高效利用:集群所有资源最大化被使用

    效率:调度的性能要好,能够尽快地对大批量的pod完成调度工作

    灵活:允许用户根据自己的需求控制调度的逻辑

    • Sheduler是作为单独的程序运行的,启动之后会一直监听APIServer,获取spec.nodeName为空的pod,对每个pod都会创建一个binding,表明该pod应该放到哪个节点上。

    调度分为几个部分:

  • 首先是过滤掉不满足条件的节点,这个过程称为预算策略(predicate);
  • 然后对通过的节点按照优先级排序,这个是优选策略(priorities);
  • 最后从中选择优先级最高的节点。如果中间任何一步骤有错误,就直接返回错误。
  • 预算策略

    ==Predicate有一系列的常见的算法可以使用==:

    • PodFitsResources:节点上剩余的资源是否大于 pod 请求的资源。
    • PodFitsHost:如果 pod 指定了 NodeName,检查节点名称是否和 NodeName 匹配。
    • PodFitsHostPorts:节点上已经使用的 port 是否和 pod 申请的 port 冲突。
    • PodSelectorMatches:过滤掉和 pod 指定的 label 不匹配的节点。
    • NoDiskConflict:已经 mount 的 volume 和 pod 指定的 volume 不冲突,除非它们都是只读。

    如果在 predicate 过程中没有合适的节点,pod 会一直在 pending状态,不断重试调度,直到有节点满足条件。经过这个步骤,如果有多个节点满足条件,就继续 priorities 过程:按照优先级大小对节点排序。

    优选策略

    优先级由一系列键值对组成,键是该优先级项的名称,值是它的权重(该项的重要性)。有一系列的常见的优先级选项包括:

    • LeastRequestedPriority:通过计算CPU和Memory的使用率来决定权重,使用率越低权重越高。也就是说,这个优先级指标倾向于资源使用比例更低的节点。
    • BalancedResourceAllocation:节点上CPU和Memory使用率越接近,权重越高。这个一般和上面的一起使用,不单独使用。比如node01的CPU和Memory使用率20:60,node02的CPU和Memory使用率50:50,虽然node01的总使用率比node02低,但node02的CPU和Memory使用率更接近,从而调度时会优选node02。
    • ImageLocalityPriority:倾向于已经有要使用镜像的节点,镜像总大小值越大,权重越高。

    通过算法对所有的优先级项目和权重进行计算,得出最终的结果。

    指定调度节点

    方法一:使用pod.spec.nodeName参数,将Pod直接调度到指定的Node节点上,会跳过 Scheduler 的调度策略,该匹配规则是强制匹配

    vim myapp.yaml apiVersion: extensions/v1beta1 kind: Deployment metadata: name: myapp spec: replicas: 3 template: metadata: labels: app: myapp spec: nodeName: node02 containers: - name: myapp image: niginx ports: - containerPort: 80 kubectl apply -f myapp.yaml kubectl get pods -o wide

    方法二:使用pod.spec.nodeSelector参数,通过kubernetes的label-selector机制选择节点,由调度器调度策略匹配label,然后调度Pod到目标节点,该匹配规则属于强制约束

    kubectl label --help #获取标签帮助 需要获取 node 上的 NAME 名称 kubectl get node 给对应的 node 设置标签分别为 abc=a 和 abc=b kubectl label nodes node01 abc=aaa kubectl label nodes node02 abc=bbb 查看标签 kubectl get nodes --show-labels 修改成 nodeSelector 调度方式 vim myapp1.yaml apiVersion: extensions/v1beta1 kind: Deployment metadata: name: myapp1 spec: replicas: 3 template: metadata: labels: app: myapp1 spec: nodeSelector: kgc: a containers: - name: myapp1 image: soscscs/myapp:v1 ports: - containerPort: 80 kubectl apply -f myapp1.yaml kubectl get pods -o wide

    修改一个label的值,需要加上--overwrite参数

    kubectl label nodes node02 abc=ccc --overwrite

    删除一个label,只需在命令行最后指定label的key 名并与一个减号相连即可:

    kubectl label nodes node02 abc-

    指定标签查询 node 节点

    kubectl get node -l abc=aaa

    亲和性

    官方文档:https://kubernetes.io/zh/docs/concepts/scheduling-eviction/assign-pod-node/

    (1)节点亲和性

    pod.spec.nodeAffinity

    • preferredDuringSchedulingIgnoredDuringExecution:软策略
    • requiredDuringSchedulingIgnoredDuringExecution:硬策略

    (2)Pod 亲和性

    pod.spec.affinity.podAffinity/podAntiAffinity

    • preferredDuringSchedulingIgnoredDuringExecution:软策略
    • requiredDuringSchedulingIgnoredDuringExecution:硬策略

    可以把自己理解成一个Pod,当你报名来学云计算,如果你更倾向去zhangsan老师带的班级,把不同老师带的班级当作一个node的话,这个就是节点亲和性。如果你是必须要去zhangsan老师带的班级,这就是硬策略;而你说你想去并且最好能去zhangsan老师带的班级,这就是软策略。

    如果你有一个很好的朋友交lisi,你倾向和lisi同学在同一个班级,这个就是Pod亲和性。如果你一定要去lisi同学在的班级,这就是硬策略;而你说你想去并且最好能去lisi同学在的班级,这就是软策略。软策略是不去也可以,硬策略则是不去就不行。


    键值运算关系

    • In:label 的值在某个列表中

    • NotIn:label 的值不在某个列表中

    • Gt:label 的值大于某个值

    • Lt:label 的值小于某个值

    • Exists:某个 label 存在

    • DoesNotExist:某个 label 不存在
    kubectl get nodes --show-labels #查看node节点上的标签

    节点亲和性(硬策略)

    requiredDuringSchedulingIgnoredDuringExecution:硬策略 vim pod1.yaml apiVersion: v1 kind: Pod metadata: name: nginx001 labels: app: node-affinity-pod spec: containers: - name: with-node-affinity image: soscscs/myapp:v1 affinity: nodeAffinity: requiredDuringSchedulingIgnoredDuringExecution: nodeSelectorTerms: - matchExpressions: - key: kubernetes.io/hostname #指定node的标签 operator: NotIn #设置Pod安装到kubernetes.io/hostname的标签值不在values列表中的node上 values: - node02 kubectl apply -f pod1.yaml kubectl get pods -o wide kubectl delete pod --all && kubectl apply -f pod1.yaml && kubectl get pods -o wide #如果硬策略不满足条件,Pod状态一直会处于Pending状态。

    节点亲和性(软策略)

    preferredDuringSchedulingIgnoredDuringExecution:软策略 vim pod2.yaml apiVersion: v1 kind: Pod metadata: name: affinity labels: app: node-affinity-pod spec: containers: - name: with-node-affinity image: soscscs/myapp:v1 affinity: nodeAffinity: preferredDuringSchedulingIgnoredDuringExecution: - weight: 1 #如果有多个软策略选项的话,权重越大,优先级越高 preference: matchExpressions: - key: kubernetes.io/hostname operator: In values: - node03 kubectl apply -f pod2.yaml kubectl get pods -o wide #把values:的值改成node01,则会优先在node01上创建Pod kubectl delete pod --all && kubectl apply -f pod2.yaml && kubectl get pods -o wide ············································································································ 如果把硬策略和软策略合在一起使用,则要先满足硬策略之后才会满足软策略 示例: apiVersion: v1 kind: Pod metadata: name: affinity labels: app: node-affinity-pod spec: containers: - name: with-node-affinity image: soscscs/myapp:v1 affinity: nodeAffinity: requiredDuringSchedulingIgnoredDuringExecution: #先满足硬策略,排除有kubernetes.io/hostname=node02标签的节点 nodeSelectorTerms: - matchExpressions: - key: kubernetes.io/hostname operator: NotIn values: - node02 preferredDuringSchedulingIgnoredDuringExecution: #再满足软策略,优先选择有abc=aaa标签的节点 - weight: 1 preference: matchExpressions: - key: abc operator: In values: - aaa
    总结:

    硬策略:必须满足条件。in节点A就会用 A节点,若没有A节点,会pendingnotin 节点A,就是用除A节点以为的其他节点,若硬策略不满足,也会pending

    软策略:尽量满足条件,满足不了也没关系 若有多个软策略选项的话,权重越大,优先级越高

    亲和性与反亲和性

    调度策略 匹配标签 操作符 拓扑域支持 调度目标 nodeAffinity 主机 In, NotIn, Exists,DoesNotExist, Gt, Lt 否 指定主机 podAffinity Pod In, NotIn, Exists,DoesNotExist 是 Pod与指定Pod同一拓扑域 podAntiAffinity Pod In, NotIn, Exists,DoesNotExist 是 Pod与指定Pod不在同一拓扑域 创建一个标签为app=myapp01的Pod vim pod3.yaml apiVersion: v1 kind: Pod metadata: name: myapp01 labels: app: myapp01 spec: containers: - name: with-node-affinity image: nginx kubectl apply -f pod3.yaml kubectl get pods --show-labels -o wide

    使用Pod亲和性调度

    vim pod4.yaml apiVersion: v1 kind: Pod metadata: name: myapp02 labels: app: myapp02 spec: containers: - name: myapp02 image: nginx affinity: podAffinity: requiredDuringSchedulingIgnoredDuringExecution: - labelSelector: matchExpressions: - key: app operator: In values: - myapp01 topologyKey: kubernetes.io/hostname kubectl apply -f pod4.yaml kubectl get pods --show-labels -o wide #pod根据在节点上正在运行的pod的标签(而不是节点的标签)进行调度 #仅当节点和至少一个已运行且有键为“app”且值为“myapp01”的标签 的 Pod 处于同一拓扑域时,才可以将该 Pod 调度到节点上。 (更确切的说,如果节点 N 具有带有键 kubernetes.io/hostname 和某个值 V 的标签,则 Pod 有资格在节点 N 上运行, 以便集群中至少有一个节点具有键 kubernetes.io/hostname 和值为 V 的节点正在运行具有键“app”和值 “myapp01”的标签的 pod。) #topologyKey 是节点标签的键。如果两个节点使用此键标记并且具有相同的标签值,则调度器会将这两个节点视为处于同一拓扑域中。 调度器试图在每个拓扑域中放置数量均衡的 Pod。 #如果 kubernetes.io/hostname 对应的值不一样就是不同的拓扑域。比如 Pod1 在 kubernetes.io/hostname=node01 的 Node 上,Pod2 在 kubernetes.io/hostname=node02 的 Node 上,Pod3 在 kubernetes.io/hostname=node01 的 Node 上,则 Pod2 和 Pod1、Pod3 不在同一个拓扑域,而Pod1 和 Pod3在同一个拓扑域

    Pod 反亲和性调度

    vim pod5.yaml apiVersion: v1 kind: Pod metadata: name: myapp03 labels: app: myapp03 spec: containers: - name: myapp03 image: nginx affinity: podAntiAffinity: preferredDuringSchedulingIgnoredDuringExecution: - weight: 100 podAffinityTerm: labelSelector: matchExpressions: - key: app operator: In values: - myapp01 topologyKey: kubernetes.io/hostname #如果节点处于 Pod 所在的同一拓扑域且具有键“app”和值“myapp01”的标签, 则该 pod 不应将其调度到该节点上。 (如果 topologyKey 为 kubernetes.io/hostname,则意味着当节点和具有键 “app”和值“myapp01”的 Pod 处于相同的区域,Pod 不能被调度到该节点上。) kubectl apply -f pod5.yaml kubectl get pods --show-labels -o wide

    总结

    节点亲和调度到满足 Node 节点的标签条件的Node节点 nodeAffinity 硬策略:必须满足条件 requiredDuringSchedulingIgnoredDuringExecution 软策略:尽量满足条件,满足不了也没关系 preferredDuringSchedulingIgnoredDuringExecution 硬策略配置: spec: affinity: nodeAffinity: requiredDuringSchedulingIgnoredDuringExecution: nodeSelectorTerms: - matchExpressions: - key: KEY_NAME operator: In/NotIn/Exists/DoesNotExist/Gt/Lt values: - KEY_VALUE 软策略配置: spec: affinity: nodeAffinity: preferredDuringSchedulingIgnoredDuringExecution: - weight: WEIGHT_VALUE preference: matchExpressions: - key: KEY_NAME operator: In/NotIn/Exists/DoesNotExist values: - KEY_VALUE pod亲和 pod亲和(podAffinity):调度到满足pod的标签条件所对应的node节点(用的硬策略) spec: affinity: podAffinity: requiredDuringSchedulingIgnoredDuringExecution: - labelSelector: matchExpressions: - key: app operator: In/NotIn/Exists/DoesNotExist values: - KEY_VALUE topologyKey: kubernetes.io/hostname #Pod亲和必须携带拓扑域字段 pod反亲和(podAntiAffinity):不调度到满足pod的标签条件所对应的node节点(用的软策略) spec: containers: affinity: podAntiAffinity: preferredDuringSchedulingIgnoredDuringExecution: - weight: WEIGHT_VALUE podAffinityTerm: labelSelector: matchExpressions: - key: app operator: In/NotIn/Exists/DoesNotExist values: - KEY_VALUE topologyKey: kubernetes.io/hostname
    网友评论