1.综述机器学习业务应用以输出决策判断为目标。可解释性是指人类能够理解决策原因的程度。机器学习模型的可解释性越高，人们就越容易理解为什么要做出某些决定或预测。模型可解释性指对模型内部机制的理解以及对模型结果的解释。其重要性体现在：建模阶段，辅助开发人员理解模型，进行模型的对比选择，必要时优化调整模型；在投入运行阶段，向业务方解释模型的内部机制，对模型结果进行解释。比如基金推荐模型，需要解释：为什么
FIFO存储器 FIFO是英文First In First Out 的缩写，是一种先进先出的数据缓存器。 它与普通存储器的区别是没有外部读写地址线，这样使用起来非常简单，但缺点就是只能顺序写入数据，顺序的读出数据，其数据地址由内部读写指针自动加1完成，不能像普通存储器那样可以由地址线决定读取或写入某
转载
2018-03-15 23:49:00
310阅读
2评论
1、 Python 变量及其赋值 a = 1
b = a
a = a + 1 这里首先将 1 赋值于 a，即 a 指向了 1 这个对象，如下面的流程图所示： 接着 b = a 则表示，让变量 b 也同时指向 1 这个对象 最后执行 a = a + 1。需要注意的是，Python 的数据类型，例如整型（int）、字符串（string）等等，是不可变的。所以，a =
转载
2024-07-17 05:28:07
80阅读
1.SHAP介绍SHAP（SHapley Additive exPlanations），是Python开发的一个“模型解释”包，它可以解释任何机器学习模型的输出。所有的特征都被视为“贡献者”。对于每个预测样本，模型都产生一个预测值，SHAP value就是该样本中每个特征所分配到的数值。SHAP值从预测中把每一个特征的影响分解出来，可应用于如下场景中：模型认为银行不应该给某人放贷，但是法律上需要银
转载
2023-09-30 09:31:44
6552阅读
随着DeepMind研发的围棋机器人AlphaGo接连击败了世界上的顶尖棋手，人工智能开始得到越来越多的关注。尤其是近年来计算机算力的增长以及可靠数据越来越容易获取，人工智能中的深度学习领域得到了高速发展，深度学习模型在一些任务上的智能可以达到甚至超过人类水平。但是在光鲜亮丽的面纱之下笼罩着一团迷雾！深度学习模型因其大量的参数、复杂的结构，以及给出的结果难以直接被人们所理解，甚至被诟病为“黑盒模型
转载
2024-01-08 11:37:46
249阅读
文章目录【用Shapely解释机器学习模型】1. 用Shapely解释线性模型1.1 传统特征系数计算1.2 部分特征依赖图(partial dependence plots)1.3 瀑布图（waterfall plot）2. 用Shapely解释加法回归模型2.1 基础解释图（局部依赖、依赖关系散点图、瀑布图）2.2 蜂群图（beeswarm）3. 用Shapely解释非加法性质的提升树模型3
转载
2023-12-11 08:25:37
2885阅读
在这篇笔记中分享前段时间我对于LIME算法的调研。一、算法简介LIME算法是Marco Tulio Ribeiro2016年发表的论文《“Why Should I Trust You?” Explaining the Predictions of Any Classifier》中介绍的局部可解释性模型算法。该算法主要是用在文本类与图像类的模型中。1.算法主要用途在算法建模过程中，我们一般会用测试集的
转载
2023-12-30 08:13:39
171阅读
# Python可解释性库实现指南
## 引言
本文将指导一位刚入行的小白开发者如何使用Python可解释性库。我们将依次介绍整个流程，并提供每一步需要使用的代码和对代码的注释。希望通过本文的指导，你能够快速理解并掌握Python可解释性库的实现方法。
## 流程概览
在开始之前，让我们先了解一下整个实现过程的流程。下表展示了实现Python可解释性库的主要步骤。
| 步骤 | 描述 |
原创
2023-12-18 09:08:27
41阅读
随着人工智能的发展为了解决具有挑战性的问题，人们创造了更复杂、更不透明的模型。AI就像一个黑匣子，能自己做出决定，但是人们并不清楚其中缘由。建立一个AI模型，输入数据，然后再输出结果，但有一个问题就是我们不能解释AI为何会得出这样的结论。需要了解AI如何得出某个结论背后的原因，而不是仅仅接受一个在没有上下文或解释的情况下输出的结果。SHAPSHapley Additive explanation
nlp对语言进行可解释化tf-idf相关语言模型神经网络语言模型bert的结构masked lmTransformer tf-idf用来支持文本表征的抽取和预测，比如one-hot将各个词变成一个向量，喜欢(001)、不喜欢(010)、很喜欢(011)等，使用这些向量来作为预测和训练的语料，运算结束后再解码为具体的词句，由于特征的维度特别高，tf-idf基于词频来统计文本表征的算法可以表示为 词
转载
2024-09-03 11:15:49
45阅读
1.到底什么是Python？你可以在回答中与其他技术进行对比 下面是一些关键点：Python是一种解释型语言。这就是说，与C语言和C的衍生语言不同，Python代码在运行之前不需要编译。其他解释型语言还包括PHP和Ruby。
Python是动态类型语言，指的是你在声明变量时，不需要说明变量的类型。你可以直接编写类似x=111和x="I'm a string"这样的代码，程序不会报错。
Pyth
转载
2024-07-09 22:19:16
35阅读
可解释机器学习技术 Mind Map Ref [1] 杜梦楠. 可解释机器学习技术. 中国计算机学会通讯. 2020-6 [2] Mengnan Du, Ninghao Liu, Xia Hu: Techniques for interpretable machine learning. Commu ...
转载
2021-09-12 09:48:00
243阅读
2评论
# 可解释机器学习的实现
## 引言
在机器学习领域，越来越多的企业和研究人员开始关注可解释机器学习。可解释机器学习是指在模型的预测过程中能够提供可解释性和透明度的机器学习方法。这对于理解模型的决策原理、检测模型的偏差和增强模型的可信度都非常重要。本文将介绍可解释机器学习的实现流程，并提供代码示例。
## 可解释机器学习的实现流程
| 步骤 | 描述 |
| --- | --- |
| 1.
原创
2023-08-10 03:46:48
89阅读
#今日论文推荐#更透明的AI？MIT等最新《可解释AI: 深度神经网络内部结构解释》综述，17页pdf全面阐述DNN内部可解释性技术在过去的十年里，机器学习的规模和能力都有了巨大的增长，深度神经网络(DNNs)正在越来越多地应用于广泛的领域。然而，DNN的内部工作原理通常很难理解，这引起了人们对使用这些系统的安全性的担忧，因为他们没有严格了解它们的功能。在这项综述中，我们回顾了解释DNN内部成分的
转载
2023-07-04 21:54:31
154阅读
算法算法定义算法的特性算法设计的要求算法效率的度量方法函数的渐进增长算法时间复杂度常见的时间复杂度最坏的情况和平均情况算法空间复杂度 算法定义定义：算法是解决特定问题求解步骤的描述，在计算机中表现为指令的有限序列，并且每个指令表示一个或多个操作。算法的特性算法具有五个基本特性：输入、输出、有穷性、确定性和可行性。输入输出：算法具有零个或多个输入，至少有一个或多个输出。有穷性：指算法在执行有限步骤
LRP算法一.LSTM1.1.理论部分1.2.作者代码二.LRP_for_LSTM2.1.理论部分2.2.1.Weighted Connections2.2.2.Multiplicative Interactions2.2.作者代码三.扩展到GRU3.1.GRU3.2.GRU的Relevance计算部分四.参考文献 LRP算法也是可解释算法的一种，全称Layer-wise Relevance P
转载
2023-12-22 06:27:42
431阅读
本篇博客介绍另一种事后可解释性方法：SHAP(SHapley Additive exPlanation)方法。1. Shapley值理论 Shapley值是博弈论中的一个概念，通过衡量联盟中各成员对联盟总目标的贡献程度，从而根据贡献程度来进行联盟成员的利益分配，避免了分配的平均主义。 当Shapley理论用于解释机器学习模型的时候，将输入特征视为参与成员，模型输出的概率分布视为联盟总目标
转载
2024-01-12 08:36:48
247阅读
一、科学目标基于深度学习的人工智能方法在许多场景取得了重要突破，但仍然存在模型可解释性差、对抗样本鲁棒性差、数据与算力需求大、理论基础薄弱等问题。基于以上问题，本重大研究计划旨在建立规则和学习的有效融合机制，打破现有深度学习“黑箱算法”的现状，建立一套可适用于不同领域、不同场景（语音、图像、视频等）的通用方法体系。二、科学问题通过规则与学习结合的方式，建立高精度、可解释、可通用且不依赖大量标注数据
转载
2024-01-25 20:37:27
72阅读
# 使用SHAP库进行回归模型的可解释性分析
## 引言
在机器学习中，模型的可解释性越来越受到重视。SHAP（SHapley Additive exPlanations）是一种用于解释模型输出的方法，特别适用于回归模型。本文将教你如何使用Python中的SHAP库来实现回归模型的可解释性分析。
## 流程概述
下面是整个过程的概要步骤：
| 步骤
1、问题观看了李宏毅老师的机器学习进化课程之可解释的机器学习，课程中对主要是针对黑盒模型进行白盒模型转化的技巧和方法进行了简单介绍，详细细节可以参考《Interpretable Machine Learning》。像一些线性模型、树形模型是可解释的ML model，但是，深度学习一直被称为“黑盒子”，是end-to-end模型，即忽略内部计算，只关心输入端和输出端。然后就有不少人想要知道深度学习模
转载
2023-10-16 22:16:23
131阅读
