容量调度绝对值配置队列使用与避坑

陈猿解码

发布于 2023-02-28 15:02:40

4020

发布于 2023-02-28 15:02:40

文章被收录于专栏：陈猿解码

【概述】

在yarn中，对于容量调度而言，需要配置不同的队列，并为队列分配不同的资源。然而资源的配置是按照集群总资源的百分比来的，那么，如果集群资源进行扩容，队列的资源也就相应的增加了。在某些场景下，我们可能希望某些队列的资源是固定的，不随集群资源的扩缩容而变更，这就需要给队列资源配置一个绝对值，在hadoop3.1.0版本中，开始引入了这个功能。本文就来聊聊如何给队列配置绝对值资源，以及一些使用过程中的注意事项。

【配置使用】

配置绝对值资源的队列其实很简单，在原来配置百分比的地方，修改为资源的绝对值即可。例如：

<property>
  <name>yarn.scheduler.capacity.root.bigdata.capacity</name>
  <value>[vcores=60,memory=614400,yarn.io/gpu=0]</value>
</property>

这样，配置的队列就是固定的资源了。

【使用注意事项】

虽然配置比较简单，使用方式和原来相比也没有什么变化，但还是有不少要注意的地方。

1. 根队列下，队列可创建的模式

在根队列（"/"）下，可以同时创建类型为百分比、绝对值的子队列。

2. 根队列下，队列的容量问题

在根队列下，如果同时创建了百分比、绝对值方式的队列，那么对于百分比队列而言，累加的百分比可以大于100%，但单个队列的百分比值不能超过100%

同样对于绝对值方式的队列，所有队列的资源总和同样可以大于集群的总资源，

但是，如果根队列下只有百分比的队列，那么队列累加的百分比之和还是和之前一样，必须等于100，对于绝对值的队列，也是一样的，非根队列下的子队列，其资源的总和可以大于等于父队列的资源，但不能超过父队列的资源。

3. 子队列的模式

前面说了根队列下的队列可以同时创建百分比、绝对值方式的队列，而在非根队列下的队列，其类型就必须与父队列保持一致，即如果父队列是百分比的，那么子队列也只能是百分比；如果父队列是按绝对值方式配置的，子队列也只能以绝对值的方式进行配置，否则会报类型不匹配的错误，导致队列刷新失败或rm启动失败，例如采用如下配置更新队列：

<property>
  <name>yarn.scheduler.capacity.root.cloudstorage.capacity</name>
  <value>50</value>
</property>
<property>
  <name>yarn.scheduler.capacity.root.cloudstorage.queues</name>
  <value>ceph</value>
</property>
<property>
  <name>yarn.scheduler.capacity.root.cloudstorage.ceph.capacity</name>
  <value>[vcores=60,memory=614400,yarn.io/gpu=0]</value>
</property>

报错信息为：