近日，來自機器學習、計算機視覺、自然語言處理，以及在生物醫(yī)療、金融、推薦系統(tǒng)等應用領域的12位著名專家聯(lián)合創(chuàng)作的《可解釋人工智能導論》一書正式出版，該著作全面介紹了可解釋AI在理論上和應用上的發(fā)展現(xiàn)狀、存在的問題以及今后發(fā)展的方向。其中微眾銀行首席人工智能官楊強教授與人工智能首席科學家范力欣博士作為主要作者參與了此書的撰寫。
AI應用持續(xù)落地，打造可解釋AI日趨重要
進入21世紀以來，人工智能（Artificial Intelligence，AI）取得了長足發(fā)展，智能化的人機協(xié)同成為發(fā)展趨勢。如果能夠了解AI對決策的判斷，實現(xiàn)理解、信任、管理AI的目標，那么人們將更有信心全方位地應用AI。
在此背景下，發(fā)展可解釋、可擴展、安全可靠的AI顯得至關重要。可解釋性就如同醫(yī)生需要向病人解釋病因，才能提供可理解的診斷結果和治療措施。發(fā)展安全可靠的AI的首要任務，是人類能夠理解AI技術的基本原理、自動決策的機制，以應對潛在風險及準備防范措施。在實際情況中，核心AI算法尤其是深度學習算法通常運行在類似于“黑盒”中的工作模式，其運行結果需要輔以合理的解釋為人類所理解和信任。
各國現(xiàn)行的條例法規(guī)同樣要求人工智能系統(tǒng)的開發(fā)使用，必須在監(jiān)管合規(guī)的條件下運行。因此，發(fā)展可解釋AI具有重要的理論意義與現(xiàn)實意義。首先，可解釋AI可幫助用戶建立對AI系統(tǒng)的信任，防止因為算法的黑盒特性做出有偏見的結論，促進算法的公平性；其次，它可以滿足監(jiān)管機構的合規(guī)要求，促進AI的公平性、穩(wěn)健性、安全性發(fā)展。
微眾銀行關注可信、可解釋的AI理論及應用
基于在金融領域的實踐，微眾銀行已經在智能服務、智能營銷、聯(lián)邦學習等方面獲得一系列成果。參與撰寫《可解釋人工智能導論》體現(xiàn)了微眾銀行在發(fā)展可信、可解釋、負責任的人工智能方面的探索。
據了解，針對隱私計算和聯(lián)邦學習所面臨的安全、效率、性能之間的平衡問題，近期楊強教授帶領微眾銀行AI團隊持續(xù)豐富和拓展聯(lián)邦學習的理論，提出了“可信聯(lián)邦學習”概念。“可信聯(lián)邦學習”以隱私保護、模型性能、算法效率為核心的三角基石，以模型的決策可解釋性和可監(jiān)管性為兩大支柱，共同構成了更加安全可信的聯(lián)邦學習。
在“可信聯(lián)邦學習”理論框架下，楊強教授及團隊提出了隱私與模型性能的"No-free-lunch安全-收益恒定"定律，利用該定律可實現(xiàn)可信聯(lián)邦學習的安全、性能、效率三者的協(xié)調，在實現(xiàn)更高質量的隱私保護的同時，既不犧牲數(shù)據安全保護，也不致使模型性能和學習效率的大幅下降。有效運用該定律能夠量化分析隱私計算各種技術保護方案的優(yōu)劣，進一步優(yōu)化隱私保護算法設計。目前相關論文已被國際頂級學術期刊接收。
楊強教授表示：“數(shù)據安全、隱私保護與可解釋性應當與模型性能、算法效率并重，在金融應用場景中尤為重要。未來，微眾銀行將持續(xù)深入在相關領域的探索和研究，持續(xù)推動可信、可解釋、負責任的AI應用。”
