（1）概念
随着机器学习和人工智能技术在各个领域中的迅速发展和应用，向用户解释算法输出的结果变得至关重要。人工智能的可解释性(Explainable Artificial Intelligence，XAI)是指人能够理解人工智能模型在其决策过程中所做出的选择，包括做出决策的原因，方法，以及决策的内容。简单的说，可解释性就是把人工智能从黑盒变成了白盒。
在学术领域，可解释性人工智能可以更好的帮助研究人员有效的理解模型做出的决策，从而发现模型做出的决策偏差并且针对性的纠正错误，提升模型的性能；可解释性算法可以找出算法的薄弱点，并针对性的加入噪音来促进算法的鲁棒性，例如对抗性学习；可解释性可以确保只有有意义的变量才能推断出输出，来使得决策过程中因果关系更加真实。
（2）研究的作用
可解释性是现在人工智能在实际应用方面面临的最主要的障碍之一。人们无法理解或者解释为何人工智能算法能取得这么好的表现。可解释性人工智能模型的作用主要有：
①可解释性人工智能可以打破研究和应用之间的差距，加速先进的人工智能技术在商业上的应用：出于安全，法律，道德伦理等方面的原因，在一些管制较多的领域场景例如医疗，金融等，会限制无法解释的人工智能技术的使用。
②通过可解释性理解模型做出的决策，找出偏差出现的原因，从而提升模型的性能。
③有助于人工智能模型的使用：可解释性可以帮助用户理解人工智能所做出的决策，使得用户能更有效地使用模型，也能纠正用户在使用模型时因为不清楚算法所做的事情而产生错误的操作；
④可解释性人工智能能增加用户的信任度：用户知道了人工智能决策的依据之后，会更加信任人工智能所做出的政策。
（3）可解释 AI 技术中的关键因素
XAI 技术中最重要的因素有三个，预测准确性和可跟踪性可满足技术方面的需求，而决策理解可满足人类需求。
①预测准确性
准确性是在日常运营中成功使用 AI 的关键因素。通过运行模拟并将 XAI 输出与训练数据集中的结果进行比较，可以确定预测准确性。在这方面，最主流的技术是模型无关的局部解释 (LIME)，它解释了 机器学习（ML）算法对分类器的预测。
②可跟踪性
可跟踪性是实现 XAI 的另一关键技术。可通过多种方法实现可跟踪性，比如通过限制决策的制定方式，以及为机器学习规则和功能设置更小的范围。可跟踪性 XAI 技术的一个例子是 DeepLIFT（深度学习重要特征），该算法将每个神经元的激活与其参考神经元进行比较，并显示每个已激活神经元之间的可跟踪链路，甚至显示它们之间的依赖关系。
③决策理解
这是指人为因素。许多人对 AI 并不信任，然而，要高效利用 AI，就需要学会信任 AI。通过教导团队使用 AI，可以建立对 AI 的信任，这样他们就能理解 AI 如何决策以及为何做出此等决策。
新闻传播学专业公众号
微信号 : media-power
▇ 新传考研智库 洞察社会脉动
热门跟贴