可解释人工智能是人工智能的一个研究方向，指让模型的输出与决策能够以人类可以理解和检验的方式被说明，常缩写为 XAI（Explainable Artificial Intelligence）。它针对的是深度神经网络、大规模集成模型等把决策依据分散在极多参数中、难以直接阅读的「黑箱」问题。该方向既研究本身就便于理解的白盒模型，也研究在事后为已训练好的复杂模型生成解释的方法，并已进入数据保护与行业监管的 查看更多