[李宏毅-机器学习]解释性机器学习 Explainable ML

最新推荐文章于 2022-11-30 19:54:02 发布
原创 最新推荐文章于 2022-11-30 19:54:02 发布 · 606 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

local explaination

移除图片中的一部分，如果识别结果发现很大变化，则该部分对于识别这个物体很重要

 

计算最后类别的概率那个节点对每个pixel的梯度，梯度大的话就说明该pixel重要

 

global explaination

 

用一个可以被解释的model去解释另一个不可被解释的model

 

李宏毅机器学习2021】机器学习模型的可解释性 (Explainable ML)
SimonChen
07-21 759
explainable 和 Interpretability是有区别的： explainable是指的是一个东西原来是个黑箱，我们想办法赋予其解释的能力，就是explainable， Interpretability，是指的是这个东西本来就不是黑箱，本来就知道其内容，叫做Interpretability。 ...
李宏毅机器学习-explainable machine learning（机器学习的可解释性）及代码
iwill323的博客
10-30 1135
explainable machine learning（机器学习的可解释性） Local Explanation Global Explanation
[datawhale202210]李宏毅机器学习2021：机器学习模型的可解释性
qq_40990057的博客
10-16 1197
可解释性是不可缺少的，因为我们需要在借助机器学习模型做出决策时了解机器学习模型做出决策的原因。 模型原生的可解释性和模型本身的拟合能力之间存在着一定的矛盾，线性模型可解释性好，但拟合能力差，而神经网络则恰恰相反。兼具强可解释性和强拟合能力的决策树模型，在实际应用当中也会陷入可解释性变差的困境。我们所探讨的可解释性，是试图给黑箱的模型一个原因，来帮助决策。 模型的可解释性分为Local和Global的，一个探讨做出具体决策的原因，另一个探讨做出某一类决策的道理。
【李宏毅】机器学习 笔记11（Explainable ML）
Mr_Kingk的博客
08-02 415
Explainable ML：简单来说，就是在机器做learning时，在预测出结果的同时，给出这样预测的理由，解释它学到的东西。 主要分为两类：1、Local Explainable 2、Global Explainable explainable ml可以给我们一些改进model的参考： 李宏毅老师的个人观点： Local explaination: 基本思想：就是通过删除或修改一些组件的值，然后观察变化，来看这些组件对...
李宏毅老师课程：Explainable ML
APythonC的博客
08-21 487
可解释的MLIntroductionWhy we need Explainable ML?Interpretable v.s. PowerfulLocal ExplanationBasic IdeaLimitation of Gradient based ApproachesAttack InterpretationGlobal ExplanationActivation Minimization (review)Constraint from GeneratorUsing a model to expla
【机器学习】李宏毅——Explainable ML(可解释性的机器学习)
FavoriteStar的博客
09-21 1529
本文介绍了Explainable ML(可解释性的机器学习)的相关内容，抱愧这项技术的相关概述、当前发展等等。
2021李宏毅机器学习笔记--11 explainable ML
guoxinxin0605的博客
06-19 539
2021李宏毅机器学习笔记--11 explainable ML摘要一、局部可解释性1.1 基本思想1.2 移除组成要素1.3 改变组成要素1.4 局限性1.5 实例（pokemon vs digimon）二、全局可解释性2.1 反向寻找理想输入2.2 输入正则化三、用模型解释模型3.1 使用线性模型3.2 使用决策树总结 摘要 可解释性分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断
精选资源
ML2021-Spring:李宏毅（Hung-Yi Lee）机器学习Machine Learning 2021 Spring
03-06
该存储库包含李宏毅（Hung-Yi Lee）指导的15项机器学习家庭作业的代码和幻灯片。 有关该课程的所有信息都可以在上找到。 讲座视频 讲座视频可在Hung-Yi Lee的。 15作业 HW1：回归 HW2：分类 HW3：CNN HW4：自我...
[2022]李宏毅深度学习与机器学习第九讲（必修）-机器学习的可解释性
weixin_45920982的博客
11-30 439
在一些领域如医疗、银行、判案里面应用深度学习的技术，如果不能给出为什么这样做仅仅只是一个答案，可能并不具有说服性，我们需要一个这么做到原因给上级或者老板交差，就像第二个图片一样，给一个理由礼让的概率就会非常大。有人会认为不可解释就不应该做，但是这并不对。explainable的意思是本来是个黑箱，我们给予他们解释，interpretable是原来就不是黑箱，我们找到一个解释。第二个方法是计算gradient，改变某一个输出，看看loss，如果loss变化大说明重要，这个技术叫做Saliency Map。
李宏毅机器学习笔记——13. Explainable ML（可解释的机器学习）
weixin_44790306的博客
07-13 1891
摘要： 文章目录1. Explainable machine learning的分类2. Why we need Explainable ML?个人观点可解释性和能力的对比3. Local Explanation4. Global Explanation5. 总结与展望 1. Explainable machine learning的分类 机器不仅要告诉我们结果是什么，而且告诉我们判断理由是什么？ Explainable machine learning分为两种： 1.local explanatio
李宏毅学习笔记18.Explainable ML
老毛的博客
04-20 1178
文章目录简介例子原因Myth of Explainable MLInterpretable v.s.PowerfulLocal Explanation: Explain the DecisionBasic ldeaLimitation of Gradient based ApproachesAttack Interpretation?!Case Study: Pokémon v.s. Digimo...
李宏毅ML+DL学习记录：explainable ML
weixin_41391619的博客
02-29 412
       explainable ML 主要是用来告诉你NN为什么会给出这样的结果，可分为两种：        ①.local explanation:why does the NN think this image is a cat?        ②.global exp...
李宏毅机器学习之Explainable ML
loserChen的博客
06-16 1338
李宏毅机器学习之Explainable ML Local Explanation 通过移动灰色方块，来确定哪个部分是最重要的，越趋于蓝色表示越重要。 类似的想法，逐像素修改，查看输出的变化 求梯度的方法具有一定的局限性： Global Explanation 找一个输入使得yi最大，得到的结果如下左图所示，机器觉得最像每个数字的图像在人看来都是噪声 设计一个R(x)，使得x*中白点...
机器学习-25-Explainable ML(可解释机器学习)
迷雾总会解
12-19 780
所谓的可解释性其实也分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断(例如分类问题中，机器认为猫长什么样子) 为什么我们需要这种可解释性呢？神经网络一般都是黑盒算法这确实，但并不是黑盒本身让我们难受，因为我们人的大脑也是个黑盒；而是如果我们没有一定的解释的话，我们可能会不爽。就例如一个神经网络来计算成绩，如果你分低还不知道为什么，那绝对会不爽，而如果机器能够解释每道题扣了多少分这种等
2020李宏毅学习笔记——21.Explainable ML(1_8)
weixin_44554337的博客
06-22 532
1.概论：Explainable ML 1.1 是个啥 Explainable ML主要就是告诉你，为什么会这样。 主要分为两种： ①local explanation:why does the NN think this image is a cat? ②global explanation:what does the NN think a cat look like? 1.2 为什么有Explainable ML 我们在用机器判断履历的时候，你得知道它是根据什么判断的，是具体能录呢还是性别。而且模型
深度学习(8): explainable ML
JJJJJJames的博客
01-17 484
1、Explainable ML 不需要完全的了解machine learning的模型 Goal of ml explanation：让客户，老板和自己舒服 Interpretable vs Powerful 一些model是很好被理解的：例如线性模型，权值 deep network 很难理解，但比linear model更powerful 让deep network 变得explainable Interpretable and powerful model decision tree 复
深度学习(十二) Explainable ML
AliForever2020的博客
09-01 1009
本文根据李宏毅的可解释性ML而写成的文章。
深度学习（十三）explainable ML
qq_43533956的博客
05-17 318
李宏毅老师课程链接 深度学习的网络往往是一个黑盒子，就是说我们并不知道里面发生了什么，怎么发生的，只知道结果如何。 所以我们要想一些办法来了解深度学习的网络究竟是怎么运作的。 在计算机视觉的领域，这似乎是比较直觉且容易做到的。比如图像识别，我们就可以通过某种办法改变图像的某些部分，然后观察其结果。 比如说我们在图像上遮盖一个灰色方块，观察它是否会对图像辨识的结果产生影响，如下图，红色区域代表遮盖无影响，蓝色区域代表遮盖影响很大。 这样一来，我们就知道了机器确实是从图中狗的部分识别出了狗，而不是把图中的人脸认
李宏毅机器学习笔记第16周_机器学习的可解释性（Explainable ML）
peaunt1的博客
07-25 720
Explainable ML
李宏毅教授台大授课PPT - 机器学习深度解读
从给定文件信息中，我们可以提取出一系列的IT知识，具体来讲，与“台大_李宏毅PPT_机器学习”相关的知识点如下： ### 机器学习概述 机器学习是人工智能（AI）领域的一个核心分支，它使计算机系统能够从数据中学习...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值