人工智能

幽原生混部最后一道防线：节点水位线设计

发布时间：2025-08-18

点站，CPU的一条洪水终点站。

逼迫条件：基于符合度的逼迫模式

这张图展示了种控制系统上实质的控制系统直通例子

在 t1 等待时间，总水资源并用赴援达致遏制洪水终点站的时候，对更高于队列的特殊任务展开遏制，意味着基本水资源并用赴援在遏制洪水终点站之下，此时更高于优特殊任务才才会再被控管进来在 t3 等待时间，总水资源并用赴援开始有利于上升，达致逼迫洪水终点站时，才会对更高于优特殊任务展开移除和逼迫的处置，意味着更高/中优的水资源常用

一个不易考虑到的的设计是，逼迫更高于优特殊任务前去预设一个延迟等待时间，这样可以让更高于优 Pod 有不够多的机才会等到控制系统有足以的水资源，继续直通，然而这个的设计，才会造成几个缺陷：

CPU的逼迫必须是系统会的，因为数据流上CPU不足，才会致使更高/中优特殊任务CPU不足而 OOM 这个延迟等待时间却是好都为置，都为的短了不能优点，都为了长了反而才会引起更高于优 Pod 依然“饥饿”而造成更高于优 Pod 直通等待时间极短如果在一个数据流上，有多个更高于优 Pod 都在直通，是不是要逼迫所有的更高于优 Pod？是不是可能要能的不及逼迫 Pod？

因此，我们研制出了基于符合度的更高于优 Pod 的 CPU 水资源逼迫形式，判别了以下几个本质：

可视期：获取 CPU 并用赴援的等待时间可视（例如 5 分钟），在可视等待时间的平均 CPU 并用赴援超过逼迫洪水终点站，则开始逼迫，可以不致抖动更高于优 Pod 水资源符合赴援：= 更高于优 Pod 实质水资源使比赴援/更高于优 Pod Request 水钾盐更高于优 Pod 符合赴援下限：一个比赴援最大值，更高于于这个最大值的认为更高于优 Pod 的水资源供给不足

这样，更高于优 Pod 的逼迫条件就替换成了：

可视年内：平均更高于优 Pod 水资源符合赴援 < 更高于优 Pod 符合赴援下限可视年内：更高于优 Pod 平均 CPU 并用赴援接近 100%（如 90% 或者 80%）当前等待时间：平均更高于优 Pod 水资源符合赴援 < 更高于优 Pod 符合赴援下限最近等待时间：BE CPU 并用赴援接近100%（如 90% 或者 80%）

而逼迫更高于优 Pod 的选取为：

必要逼迫控管队列 Priority 更高于的 Pod（是的，即使是更高于优 Pod，我们还是可以按照数最大值来细分不同的控管队列）如果 2 个 Pod 控管队列一致，则计算逼迫哪一个 Pod 带来的水资源获释不够多，必要逼迫能获释不够多水资源的

CPU的逼迫形式和 CPU 基本类似，但不能符合赴援，到了逼迫洪水终点站按照队列和CPU大小来展开逼迫。

中有：更高于优 Pod 的在别的数据流上修缮，还是依赖于更高于优 Pod 的监管控制系统（例如，离终点站计算的软件系统 Spark/Flink 等），这个修缮过程往往关的到临时缓存的邮件或者数据的迁移和一致性的可监督，这个修缮操控却是非常适合在 K8s 层尽早的去做操控，而是交给下层监管控制系统或者 operator 不够加合适。

未来发展：是不是有不够好的的设计？

在本文的开始，讲到了衡值控制系统水资源的竞争对手激烈持续性，相对简便和直观的就是看水资源并用赴援。当然，在实质的大规模战略性直通过程中，我们也看着了水资源并用赴援更高和水资源竞争对手激烈却是是完全的一一对应关系，甚至有些系统的设计在 CPU 并用赴援相当更高的情况下，一直稳定直通，而另外一些系统的设计，在一个更高于的 CPU 并用情况下，就才会相当的“卡”。

这就意味着如果我们有更进一步、不够好的衡量来衡值控制系统的并用赴援，那么我们对相应的 Workload 就能有不够“微操”的操控，在意味着系统的设计 SLO 的同时，提升战略性的水资源并用赴援。