可解释的人工智能，计算机是如何分类文本的？
可解释的人工智能，计算机是如何分类文本的？
提问于 2020-08-19 01:04:53
我的问题不是解释模型或算法。
比如哪些神经元被触发，感知器的参数是什么。
我会进一步解释
问题
我有医疗报告，我想分析并从中提取诊断。
建立了深层神经网络模型，诊断准确率达80%以上。
这很好。
当病人看到结果说:嗯，你的结果说我有电晕，电脑是怎么知道的？
在这个时刻，没有办法回答这个问题。
预测模型给我们的是诊断，而不是如何诊断的。
需求
有没有任何机制或技术可以让我们发现计算机是如何做出这一决定的？
如果病人被归类为糖尿病，模型应该识别导致识别的单词。
Results : Diabities
Explanation :
the word "Thirst"
the word "urinating frequently"
"weight loss"
"Fatigue"
"Insulin"我一直在谷歌上的运气不佳，我不知道在哪里寻找和主题名称是什么？
知道该怎么做吗?或者至少指导我在哪里能找到答案？
回答 1
Data Science用户
发布于 2020-08-19 03:01:32
有像ELI5或LIME这样的库，它们可以为文本分类提供解释，下面是指向一个示例的链接：https://eli5.readthedocs.io/en/latest/tutorials/black-box-text-classifiers.html#textexplainer
import eli5
from eli5.lime import TextExplainer
te = TextExplainer(random_state=42)
te.fit(doc, pipe.predict_proba)
te.show_prediction(target_names=twenty_train.target_names)页面原文内容由Data Science提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://datascience.stackexchange.com/questions/80480
复制相关文章
相似问题
腾讯云开发者
