LIME机器学习可解释性分析

合集 · 可解释人工智能公开课 (9)

Description
【同济子豪兄可解释机器学习公开课】
包含人工智能可解释性、显著性分析领域的导论、算法综述、经典论文精读、代码实战、前沿讲座。
课程主页：https://github.com/TommyZihao/zihao_course/blob/main/XAI

"Why Should I Trust You?": Explaining the Predictions of Any Classifier
KDD 2016

LIME是通用的机器学习可解释性分析方法。使用“可解释特征”，训练“可解释模型”，在“特定样本的局部线性邻域”拟合“原模型”。通过可解释模型的特征权重，定量分析特征重要度，及特定样本的某个特征对模型预测某一类的影响。
挑选有代表性的非冗余样本，代表模型全局可信度。在表格、文本、图像等数据模态上的模拟实验和人工实验，都表现出良好的可信性和可解释性。

代码实战：https://github.com/TommyZihao/Train_Custom_Dataset

公众号 人工智能小技巧 回复 LIME 下载笔记pdf、扩展阅读、思考题