EP27 LIME解释机器学习预测

这篇论文提出了一种名为“LIME”的算法，可以解释任何分类器的预测结果，并以可理解且忠实的方式向用户呈现。该算法通过在预测周围学习一个可解释的模型来实现解释。论文还提出了一种名为“SP-LIME”的方法，通过子模优化选择一组有代表性的实例及其解释，为用户提供对模型整体行为的理解。作者通过模拟用户实验和人类用户实验展示了这些方法在文本和图像领域中的实际应用，包括模型选择、信任评估、改进不可信模型以及洞悉预测结果等任务。