From： Fast Company； 作者：Iris

人工智能正以多種方式進(jìn)入我們的生活——手機(jī)智能助手幫助我們完成一系列基礎(chǔ)任務(wù)，智能家電能自動(dòng)打掃我們的房屋，地圖導(dǎo)航指揮著我們?cè)擇傁蚝畏�。隨著AI在日常生活中的重要性逐漸提高，關(guān)于人與機(jī)器之間的信任危機(jī)的問題又進(jìn)入了大眾的視野：我們能信任它們嗎？我們?cè)趺粗�道它們�?huì)準(zhǔn)確地聽從指令并執(zhí)行任務(wù)？

可解釋性AI（XAI）是人工智能研究的一個(gè)分支，它的關(guān)注點(diǎn)在于如何提升人工智能之于人類的可信任度。要實(shí)現(xiàn)機(jī)器人和人一起和諧工作的愿景，可信度發(fā)揮著至關(guān)重要的作用。XAI便致力于開發(fā)讓人類感覺值得信賴的人工智能系統(tǒng)，以促進(jìn)它們更好地融入人類社會(huì)。

從開瓶蓋入手

淺談機(jī)器人自我解釋能力

加州大學(xué)洛杉磯分校的研究團(tuán)隊(duì)嘗試讓機(jī)器人向人類用戶解釋它的行動(dòng)的內(nèi)容和目標(biāo)，并證明這么做是有效的。有趣的是，可信賴度最高的智能自我解釋形式，與性能最佳的學(xué)習(xí)算法并不對(duì)應(yīng)�？梢姡瑱C(jī)器人的性能和自我解釋的能力并不相同——我們不能只單獨(dú)優(yōu)化它的性能或自我解釋的能力。這要求在設(shè)計(jì)機(jī)器人的過程中既要考慮良好的性能，又要考慮到可信賴度高的自我解釋形式。

用戶演示、機(jī)器學(xué)習(xí)、任務(wù)表現(xiàn)和解釋能力的關(guān)系圖

機(jī)器人如何才能做到最高效率地執(zhí)行用戶指定的任務(wù)？用戶又應(yīng)如何回應(yīng)機(jī)器人的自我解釋行為呢？

為了回答這兩個(gè)問題，團(tuán)隊(duì)決定做一個(gè)實(shí)驗(yàn)，他們嘗試讓機(jī)器人學(xué)習(xí)如何擰開藥瓶的瓶蓋。實(shí)驗(yàn)中，一個(gè)研究人員戴著一個(gè)有觸覺記憶系統(tǒng)的手套，當(dāng)他打開瓶子時(shí)，手套會(huì)記錄下人手的姿勢(shì)和力量。這能幫助機(jī)器人通過象征性信息和觸覺信息來了解人類的行為。象征性信息是指有意義的行為動(dòng)作，比如抓取的動(dòng)作。觸覺信息指的是與身體姿勢(shì)和動(dòng)作相關(guān)的感覺，例如手指合攏的感覺信息。

總結(jié)出的象征性信息（中間）和觸覺模型（底部）為機(jī)器人的動(dòng)作提供解釋文本

機(jī)器人在吸收了象征性信息后，會(huì)對(duì)完成打開瓶子的任務(wù)所需的步驟序列進(jìn)行編碼。在接觸觸覺信息后，機(jī)器人將形成一種觸覺模型，該模型幫助機(jī)器人“想象”著自己處于人類用戶的視角，并試著預(yù)測(cè)人類在這種場(chǎng)合會(huì)采取什么行動(dòng)。

事實(shí)證明，當(dāng)把象征性信息和觸覺信息結(jié)合在一起輸入系統(tǒng)時(shí)，機(jī)器人能夠達(dá)到自身的最佳性能。與單獨(dú)分開輸入這兩種信息相比，同時(shí)獲得這兩種信息的機(jī)器人在依照步驟來執(zhí)行任務(wù)和通過夾持器進(jìn)行實(shí)時(shí)感知方面表現(xiàn)得更好。也就是說，要讓機(jī)器人高效率地執(zhí)行任務(wù)，共同輸入這兩項(xiàng)信息是必不可少的。

象征性信息的總結(jié)和語法符號(hào)推導(dǎo)過程示意圖

既然機(jī)器人能夠理解自己要做的任務(wù)，它又該怎么向人類用戶解釋它的行為呢？這種自我解釋真的能促進(jìn)人類對(duì)機(jī)器人的信任嗎？

在實(shí)驗(yàn)中，團(tuán)隊(duì)為人類添加了自我解釋的流程：在機(jī)器人完成打開藥瓶的任務(wù)后，它需用文本記錄的形式提供了一個(gè)任務(wù)執(zhí)行總結(jié)。團(tuán)隊(duì)邀請(qǐng)了150名參與者，分成五組，觀察機(jī)器人執(zhí)行打開藥瓶的任務(wù)的過程。

任務(wù)完成后，機(jī)器人給其中四組提供不同的任務(wù)解釋——基于象征性信息的解釋文本能詳細(xì)說明每個(gè)步驟的動(dòng)作內(nèi)容，基于觸覺信息的解釋文本則著重于說明機(jī)械手臂夾持的位置和姿勢(shì)，總結(jié)性的解釋文本則將象征性信息和觸覺信息結(jié)合在一起，而第五組的參與者只能觀看機(jī)器人開瓶子的視頻，沒有得到任何文本反饋。

A）解釋面板實(shí)物；B）象征性解釋文本；C）觸覺說明文本；D）文字說明總結(jié)

團(tuán)隊(duì)發(fā)現(xiàn)，同時(shí)提供象征性和觸覺信息的文本解釋最能培養(yǎng)機(jī)器人與人類之間的信任。有趣的是，完全基于觸覺信息的解釋文本在增強(qiáng)人機(jī)之間的信賴感方面并無貢獻(xiàn)，這表明人類更喜歡機(jī)器人逐步解釋它們工作的內(nèi)容。

為人機(jī)關(guān)系的未來而勉勵(lì)前行

這項(xiàng)研究最有趣的結(jié)果是，機(jī)器人的良好性能與讓它們博取人類信任的因素是完全不同的。這也突顯了未來人工智能和機(jī)器人研究領(lǐng)域的重要目標(biāo)：專注于追求機(jī)器性能和自我解釋能力，而不厚己薄彼。

性能和自我解釋能力并非兩個(gè)可以實(shí)現(xiàn)互補(bǔ)的因素，因此在構(gòu)建AI系統(tǒng)時(shí)，兩者都是需要著重考慮的首要目標(biāo)。這項(xiàng)工作也是系統(tǒng)研究人機(jī)關(guān)系發(fā)展前景的關(guān)鍵環(huán)節(jié)，若研究人員能從中得出具有突破性的成就，那么，未來研究中更具挑戰(zhàn)性的一環(huán)將是從“我相信機(jī)器人做X”到“我相信機(jī)器人”。

機(jī)器人要想在人們的日常生活中占有一席之地，必須先獲得人類的信任。了解機(jī)器人如何提供有助于增進(jìn)人類的信賴度的自我解釋文本，是使人類和機(jī)器人能夠共同工作、和睦相處的重要一步。