本文主要是介绍人工智能-机器学习:机器学习的可解释性(Explainable Machine Learning),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
什么是机器学习的可解释性?
- 可解释性(explainability)有大量的近义词,比如可理解 (understandable), 可诠释 (interpretable), 透明(transparent), 可靠 (robust), 公平 (fair), 明确(explicit),忠实(faithful), 负责(responsible)。这些词与可解释性 (explainable) 之间到底存在什么样的关系?
- 最近有篇来自以色列的19页长文 Explainability in Human-Agent Systems,专门探讨可解释性的定义,以及与这些相似概念之间的联系与区别。
- 文章提出五个根本问题 – Why, 为何需要解释。Who, 由谁向何人解释。What,解释什么。When,何时解释。How,如何解释。
一、Why 为何解释?
这个领域最重要的问题是:为什么机器学习需要可解释性?为了回答这个问题,必须知道一个机器学习系统究竟多需要可解释性。如果将此需求分为三层,大概可以这样分:
- 没什么用,不需要
- 用则有益,不用无损
- 不用不行,至关重要
这篇关于人工智能-机器学习:机器学习的可解释性(Explainable Machine Learning)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!