可解释机器学习技术 Mind Map Ref [1] 杜梦楠. 可解释机器学习技术. 中国计算机学会通讯. 2020-6 [2] Mengnan Du, Ninghao Liu, Xia Hu: Techniques for interpretable machine learning. Commu ...
转载
2021-09-12 09:48:00
222阅读
2评论
# 可解释机器学习的实现
## 引言
在机器学习领域，越来越多的企业和研究人员开始关注可解释机器学习。可解释机器学习是指在模型的预测过程中能够提供可解释性和透明度的机器学习方法。这对于理解模型的决策原理、检测模型的偏差和增强模型的可信度都非常重要。本文将介绍可解释机器学习的实现流程，并提供代码示例。
## 可解释机器学习的实现流程
| 步骤 | 描述 |
| --- | --- |
| 1.
原创
2023-08-10 03:46:48
69阅读
在这篇笔记中分享前段时间我对于LIME算法的调研。一、算法简介LIME算法是Marco Tulio Ribeiro2016年发表的论文《“Why Should I Trust You?” Explaining the Predictions of Any Classifier》中介绍的局部可解释性模型算法。该算法主要是用在文本类与图像类的模型中。1.算法主要用途在算法建模过程中，我们一般会用测试集的
LRP算法一.LSTM1.1.理论部分1.2.作者代码二.LRP_for_LSTM2.1.理论部分2.2.1.Weighted Connections2.2.2.Multiplicative Interactions2.2.作者代码三.扩展到GRU3.1.GRU3.2.GRU的Relevance计算部分四.参考文献 LRP算法也是可解释算法的一种，全称Layer-wise Relevance P
1.到底什么是Python？你可以在回答中与其他技术进行对比 下面是一些关键点：Python是一种解释型语言。这就是说，与C语言和C的衍生语言不同，Python代码在运行之前不需要编译。其他解释型语言还包括PHP和Ruby。
Python是动态类型语言，指的是你在声明变量时，不需要说明变量的类型。你可以直接编写类似x=111和x="I'm a string"这样的代码，程序不会报错。
Pyth
本书讲解了当前可解释机器学习方法中存在的局限性。这些方法包括partial dependence plots（
原创
2023-06-23 10:25:19
116阅读
9月27日，腾讯在人工智能、生命科学跨学科应用领域的最新研究成果《scBERT as a Large-scale Pretrained Deep Language Model for Cell Type Annotation of Single-cell RNA-seq Data》（《基于大规模预训练语言模型的单细胞转录组细胞类型注释算法》），登上国际顶级学术期刊《Nature》子刊《Nature
1、问题观看了李宏毅老师的机器学习进化课程之可解释的机器学习，课程中对主要是针对黑盒模型进行白盒模型转化的技巧和方法进行了简单介绍，详细细节可以参考《Interpretable Machine Learning》。像一些线性模型、树形模型是可解释的ML model，但是，深度学习一直被称为“黑盒子”，是end-to-end模型，即忽略内部计算，只关心输入端和输出端。然后就有不少人想要知道深度学习模
一、科学目标基于深度学习的人工智能方法在许多场景取得了重要突破，但仍然存在模型可解释性差、对抗样本鲁棒性差、数据与算力需求大、理论基础薄弱等问题。基于以上问题，本重大研究计划旨在建立规则和学习的有效融合机制，打破现有深度学习“黑箱算法”的现状，建立一套可适用于不同领域、不同场景（语音、图像、视频等）的通用方法体系。二、科学问题通过规则与学习结合的方式，建立高精度、可解释、可通用且不依赖大量标注数据
实现可解释性的最简单方法是仅使用可解释模型。线性回归，逻辑回归和决策树是常用的可解释模型。在接下来的章节中，我们将讨论这些模型。这里不做详细讲解，因为已经有大量的书籍，视频，教程，论文和更多的材料可用。我们将专注于如何解释模型。本书更详细地讨论了线性回归，逻辑回归，其他线性回归扩展，决策树，决策规则和RuleFit算法。它还列出了其他可解释的模型。本书中解释的所有可解释模型都可以在模块级别上解释，
机器学习的可解释性1.可解释性简介2.可解释性的重要性3.可解释模型具体技术3.1 Permutation Importance3.2 Partial Dependency Plots3.3 SHAP3.4 SHAP Values 的高级用法
1.可解释性简介理解（interpret）表示用可被认知（understandable）的说法去解
原创
2022-06-23 17:47:29
408阅读
来源：Scott Lundberg本文长度为4300字，建议阅读8分钟本文为大家介绍用XGBoost解释机器学习。这是一个故事，关于错误地解释机器学习模型的危险以及正确解释所带来的价值。如果你发现梯度提升或随机森林之类的集成树模型具有很稳定的准确率，但还是需要对其进行解释，那我希望你能从这篇文章有所收获。假定我们的任务是预测某人的银行财务状况。模型越准确，银行就越赚钱，但由于该预测要用于贷款申请
转载
2022-10-19 18:09:36
125阅读
本书解释了可解释机器学习中当前方法的局限性。
原创
2022-12-01 05:42:54
28阅读
# 可解释性机器学习综述
## 1. 引言
在机器学习领域，训练出的模型往往被认为是黑盒子，难以解释其决策过程。然而，在某些应用场景中，我们需要能够理解模型的决策原因，这就是可解释性机器学习的重要性所在。本文将为你介绍可解释性机器学习的概念以及实现的流程。
## 2. 可解释性机器学习的流程
下面是可解释性机器学习的实现流程的步骤表格：
| 步骤 | 描述 |
| ---- | ---- |
【方差】 （variance)是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量。概率论中方差用来度量随机变量和其数学期望（即均值）之间的偏离程度。统计中的方差（样本方差）是每个样本值与全体样本值的平均数之差的平方值的平均数。在许多实际问题中，研究方差即偏离程度有着重要意义。方差是衡量源数据和期望值相差的度量值。（百度百科） 在统计描述中，方差用来计算每一个变量（观察值）与总体均数之间
目录引言Additive Feature Attribution Methods加性特征归因法LIMEDeepLIFTLayer-Wise Relevance PropagationClassic Shapley Value Estimation简单属性唯一地决定了可加性特征属性SHAP valuesShapley值SHAP值其他概念预测值的可视化SHAP特征重要度SHAP摘要图SHAP依赖图
随着DeepMind研发的围棋机器人AlphaGo接连击败了世界上的顶尖棋手，人工智能开始得到越来越多的关注。尤其是近年来计算机算力的增长以及可靠数据越来越容易获取，人工智能中的深度学习领域得到了高速发展，深度学习模型在一些任务上的智能可以达到甚至超过人类水平。但是在光鲜亮丽的面纱之下笼罩着一团迷雾！深度学习模型因其大量的参数、复杂的结构，以及给出的结果难以直接被人们所理解，甚至被诟病为“黑盒模型
图神经网络的可解释性方法及GNNexplainer代码示例GNNExplainerIntroductionModelSingle-instance explanations（Explanation via Structural Information）Joint learning of graph structural and node feature information（Explanati
可解释机器学习导语没有可解释的现状为什么要做可解释什么样的可解释是最好的呢：可解释性分类：Local Explainable基本思路Global Explainable基本思路可解释性框架ELI5项目实战案例
导语在机器应用案例中：金融行业：银行需要我们开发模型，帮助柜员判断要不要给这个用户办理信用贷款，柜员用机器学习模型来
原创
2022-06-23 17:24:37
249阅读
本书向你介绍了如何使 (监督) 机器学习模型可解释。虽然本书中包含⼀些数学公式，但是即
原创
2023-06-23 10:49:56
74阅读
