黑匣子模型中分类特征的统计意义检验
黑匣子模型中分类特征的统计意义检验
提问于 2020-02-06 07:15:53
假设我们有一个分类特性X_i，并且我们构建了一个类似于xgboost的黑匣子分类模型，X_i是众多预测器之一。我们想问一个问题：X_i对整个预测有影响吗?如果是的话，影响多少？
特别是，X_i可以是：
- 二分变量
- N级变量，其中我们感兴趣的是两个特定级别之间的潜在差异。
在像线性回归这样的白盒模型中，我们通过检验来获得统计显着性.但是，我们能用黑匣子模型获得统计意义相似的结果吗？来自可解释的人工智能领域的任何工具都适用于此吗？还是只对输出概率进行标准t检验会更好呢？
回答 1
Data Science用户
发布于 2020-02-06 09:12:13
首先，您必须对该功能进行编码。模型只采用数值特征。
然后评估解决方案：
- 您可以看到模型的特性重要性。
- 或者使用XAI工具来帮助您理解预测。我通常使用SHapley添加剂解释：是一种博弈论的方法来解释任何机器学习模型的输出。它利用博弈论中经典的Shapley值及其相关的扩展，将最优信用分配与局部解释联系起来。
页面原文内容由Data Science提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://datascience.stackexchange.com/questions/67624
复制相关文章
相似问题
腾讯云开发者
