什么是可解釋AI？

可解釋AI (eXplainable AI(XAI)) 已報名ai底部評，不論是學(xué)術(shù)界還是工業(yè)界都沒有一個統(tǒng)一的定義。這里列舉3種典型定義，供大家參考討論：

①可解釋性就是希望尋求對模型工作機(jī)理的直接理解，打破人工智能的黑盒子。

②可解釋AI是為AI算法所做出的決策提供人類可讀的以及可理解的解釋。

③可解釋的AI是確保人類可以輕松理解和信任人工智能代理做出的決策的一組方法。

可見，關(guān)注點在于對模型的理解，黑盒模型白盒化以及模型的可信任。