机器学习：可解释学习

8月前作者：uncle_ll 分类：Toy博客阅读(34) 违法举报

这篇具有很好参考价值的文章主要介绍了机器学习：可解释学习。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

可解释学习

机器学习：可解释学习,机器学习,机器学习,人工智能,可解释学习

神马汉斯，只有在有人看的时候能够答对。

为什么需要可解释机器学习

机器学习：可解释学习,机器学习,机器学习,人工智能,可解释学习

贷款，医疗需要给出理由，让人们相信该算法的预测结果。
机器学习：可解释学习,机器学习,机器学习,人工智能,可解释学习

可解释还是强模型

机器学习：可解释学习,机器学习,机器学习,人工智能,可解释学习

决策树是有比较好的解释性的。

随机森林作出的判断也无法明确指出是什么原因得到的答案。

可解释学习的目标

机器学习：可解释学习,机器学习,机器学习,人工智能,可解释学习
人需要一个理由，才会被说服去做什么事。

可解释机器学习

机器学习：可解释学习,机器学习,机器学习,人工智能,可解释学习
两大类，局部可解释，全局可解释

Local Explanation

机器学习：可解释学习,机器学习,机器学习,人工智能,可解释学习
移除某一部分导致发生大的判断改变，这一部分就是关键部分。

用黑色方块移动遮盖区域，再看算法是否能正确得到预测结果，如果不能，说明是重要部分，蓝色区域就是重要部分。
机器学习：可解释学习,机器学习,机器学习,人工智能,可解释学习
saliency map，白色区域说明值越大，表明像素值重要。

结果是图片格式导致的这种准确率，而不是真的学到了相关特征判断。

这个是学错了，觉得左下角的文字是更重要，只要有文字就判断为马。
机器学习：可解释学习,机器学习,机器学习,人工智能,可解释学习
SmoothGrad：加噪音并平均下来的结果，比原来的结果好。

梯度色度的局限性
机器学习：可解释学习,机器学习,机器学习,人工智能,可解释学习

鼻子变长，越来越长也不会让人们觉得变得更像大象，只看偏微分的结果不足以告诉我们。

机器学习：可解释学习,机器学习,机器学习,人工智能,可解释学习

直接拿网络的输出可以明确的区分开来。

也可以看注意力部分的特征输出。

可以使用探针方式去查看想要看学习到的特征，要注意分类器的学习好坏，只有学习比较好的分类器能比较多表现出特征。

机器学习：可解释学习,机器学习,机器学习,人工智能,可解释学习
只保留了内容，而没有保留声音身份信息。

过滤掉女声男声，过滤掉杂音。

Global Explanation

机器学习：可解释学习,机器学习,机器学习,人工智能,可解释学习

filter检测的内容不一样，某个笔画

用小模型且可观察的模型去逼近复杂模型文章来源地址https://www.toymoban.com/news/detail-694740.html

到了这里，关于机器学习：可解释学习的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：

领支付宝红包赞助服务器费用

人工智能与机器学习

欢迎关注博主 Mindtechnist 或加入【Linux C/C++/Python社区】一起探讨和分享Linux C/C++/Python/Shell编程、机器人技术、机器学习、机器视觉、嵌入式AI相关领域的知识和技术。专栏：《机器学习》 ☞什么是人工智能、机器学习、深度学习人工智能这个概念诞生于1956年的达特茅斯

2024年02月02日
浏览(49)
机器学习--人工智能概述

入门人工智能，了解人工智能是什么。为啥发展起来，用途是什么，是最重要也是最关键的事情。大致有以下思路。人工智能发展历程机器学习定义以及应用场景监督学习，无监督学习监督学习中的分类、回归特点知道机器学习的开发流程人工智能在现实生活中的应用

2024年01月19日
浏览(50)
人工智能与机器人|机器学习

原文链接： https://mp.weixin.qq.com/s/PB_n8woxdsWPtrmL8BbehA 机器学习下包含神经网络、深度学习等，他们之间的关系表示如图2-7所示。图2-7 关系图那么什么是机器学习、深度学习、他们的区别又是什么呢？ 2.7.1 什么是机器学习？机器学习是人工智能 (AI) 和计算机科学的一个分支，

2024年02月06日
浏览(71)
人工智能、机器学习、深度学习的区别

人工智能涵盖范围最广，它包含了机器学习；而机器学习是人工智能的重要研究内容，它又包含了深度学习。人工智能是一门以计算机科学为基础，融合了数学、神经学、心理学、控制学等多个科目的交叉学科。人工智能是一门致力于使计算机能够模拟、模仿人类智能的学

2024年02月08日
浏览(47)
人工智能与开源机器学习框架

链接：华为机考原题 TensorFlow是一个开源的机器学习框架，由Google开发和维护。它提供了一个针对神经网络和深度学习的强大工具集，能够帮助开发人员构建和训练各种机器学习模型。 TensorFlow的基本概念包括：张量（Tensor）：张量是TensorFlow中的核心数据结构，它表示多维数

2024年02月22日
浏览(54)
【人工智能技术】机器学习工具总览

当谈到训练计算机在没有明确编程的情况下采取行动时，存在大量来自机器学习领域的工具。学术界和行业专业人士使用这些工具在MRI扫描中构建从语音识别到癌症检测的多种应用。这些工具可在网上免费获得。如果您感兴趣，我已经编制了这些的排名（请参阅本页底部）以

2024年02月04日
浏览(49)
12、人工智能、机器学习、深度学习的关系

很多年前听一个机器学习的公开课，在QA环节，一个同学问了老师一个问题“ 机器学习和深度学习是什么关系 ”？老师先没回答，而是反问了在场的同学，结果问了2-3个，没有人可以回答的很到位，我当时也是初学一脸懵，会场准备的小礼品也没有拿到。后来老师解释“机

2024年02月05日
浏览(62)
一探究竟：人工智能、机器学习、深度学习

1.1 人工智能是什么？ 1956年在美国Dartmounth 大学举办的一场研讨会中提出了人工智能这一概念。人工智能（Artificial Intelligence），简称AI，是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的

2024年02月17日
浏览(42)
机器学习、人工智能、深度学习三者的区别

目录 1、三者的关系 2、能做些什么 3、阶段性目标机器学习、人工智能（AI）和深度学习之间有密切的关系，它们可以被看作是一种从不同层面理解和实现智能的方法。人工智能（AI）：人工智能是一门研究如何使计算机能够模仿人类智能的学科。它涵盖了各种技术和方法，

2024年02月14日
浏览(51)
机器学习、深度学习、人工智能的区别与联系

大家好，如果没有接触过机器学习，往往对机器学习、深度学习、甚至是人工智能有着模糊的概念。在进行深度的对比人工智能、机器学习和深度学习之后，有助于大家理清概念、选择适当技术，并建立起整个学科的框架，进而可以开展相关目标的学习。本文将从下面几方面

2024年01月22日
浏览(60)