问为什么树组不需要一次热编码？

EN

编码带来了一个表示问题，以及算法处理表示的方法。

让我们考虑表示特性的n个范畴值的3种方法：

• 具有n个数值的单个特性。
• 一个热编码(n个布尔特征，其中一个必须打开)
• Log布尔特性，表示n个值。

注意，我们可以在相同的方法中表示相同的值。热编码效率较低，需要n位而不是log n位。此外，如果我们不知道on热编码中的n个特征是排他性的，那么我们的vc维数和假设集就会更大。

因此，人们可能会想，为什么首先使用一个热编码？

问题是，在单一特征表示和日志表示中，我们可能使用错误的演绎。

在一个单一的特征表示中，该算法可能是有序的。通常编码是任意的，从8开始，3的值是3的最远。然而，该算法可能会将特征看作一个数字特征，并提出"f < 4“这样的规则。在这里，您可能会声称，如果算法找到这样的规则，它可能是有益的，即使不是有意的。虽然这可能是正确的，但小数据集、噪声和其他拥有mis表示底层分布的数据集的原因可能会导致错误的规则。

在对数表示法中也可能发生同样的情况(例如，有“第三位是打开的”这样的规则。在这里，我们可能会得到更复杂的规则，所有这些规则都是无意的，有时也是误导性的。

因此，我们应该有相同的表现，导致相同的结果在理想世界。然而，在某些情况下，效率较低的表示可能导致更坏的结果，而在其他情况下，糟糕的推理规则可能导致更坏的结果。

一般来说，如果这些值在行为上确实是非常不同的，那么算法可能不会推导出这样的规则，并且您将受益于更高效的表示。很多时候，很难事先分析它，所以你所做的，尝试这两种表达方式，是选择合适的表达方式的好方法。

xgboost通常在一次热编码之后表现得更好.否则，它将把你的分类变量视为数值变量。

但是大多数其他树包都支持分类变量；换句话说，它们支持规则，比如：If(Car = Mercedes).。

同样，不幸的是，xgboost没有。因此，必须将分类变量转换为二进制变量，以便它能够执行：If(Car[Mercedes] >= 0.5).