在智能識(shí)別的過(guò)程當(dāng)中，即便是性能最為優(yōu)越的AI也會(huì)因?yàn)橄到y(tǒng)缺陷而陷入迷局。著名學(xué)者、暢銷(xiāo)書(shū)Us and them ： The Science of Identity的作者大衛(wèi)·貝雷比就表示，人工智能是可以被“欺騙”的，因?yàn)樗鼈兊膬?nèi)置推理機(jī)制都是呈模型化狀態(tài)分布的。所以從這個(gè)角度來(lái)說(shuō)，只要符合既定模型中的驗(yàn)證條件，一些原本不符合要求的樣本也可能會(huì)被系統(tǒng)讀取和識(shí)別。這就是說(shuō)，在智能化推理的過(guò)程當(dāng)中，人工智能也會(huì)出現(xiàn)“失誤”，而如何將這些失誤降到最低，就需要研究人員通過(guò)多種渠道來(lái)改善識(shí)別系統(tǒng)了。

關(guān)于人工智能在推理方面的錯(cuò)誤，一個(gè)由美國(guó)高等學(xué)府和社會(huì)科研機(jī)構(gòu)組成的團(tuán)隊(duì)做了一個(gè)非常有趣的實(shí)驗(yàn)。工作人員先按照一定的標(biāo)準(zhǔn)開(kāi)發(fā)出了一套可以識(shí)別圖像文字的神經(jīng)網(wǎng)絡(luò)模型，然后他們將經(jīng)過(guò)特殊化處理的圖片錄入到這個(gè)模型當(dāng)中去，命令人工智能系統(tǒng)對(duì)該圖片進(jìn)行識(shí)別。如圖所示，以人類(lèi)的肉眼來(lái)看，這兩張圖片應(yīng)該是不存在特征差異的。

但是對(duì)于這一套配備了特殊神經(jīng)網(wǎng)絡(luò)的人工智能來(lái)說(shuō)，最終得到的結(jié)果卻是令人大跌眼鏡的：在本次測(cè)試當(dāng)中，AI系統(tǒng)將左邊的圖片認(rèn)定為“狗”，而右邊的圖像則被判定為“鴕鳥(niǎo)”。實(shí)際上，這兩張圖片之間僅僅是存在細(xì)微的像素差異，而鏡像本體和所使用的拍攝器材，都是完全一致的。這就是說(shuō)，在本次實(shí)驗(yàn)當(dāng)中，圖片像素的差異是誤導(dǎo)人工智能進(jìn)行錯(cuò)誤推理的直接原因。

與此類(lèi)似，美國(guó)懷俄明大學(xué)計(jì)算機(jī)系助理教授杰夫·克魯聯(lián)合另外兩名研究者——阮昂和杰森·約辛斯基，共同論著了一篇關(guān)于人工智能的文章。在這篇名為“人工智能其實(shí)很好騙”的文章當(dāng)中，克魯舉例表示，他們共同研發(fā)了一套用于識(shí)別圖像的智能系統(tǒng)。當(dāng)研究者將一張呈條狀波浪形分布、主體為黃綠兩種顏色的圖片交給這套系統(tǒng)識(shí)別時(shí)，他們發(fā)現(xiàn)，這套識(shí)別系統(tǒng)用99．6％的確定性，將這張“毫無(wú)主題的水彩畫(huà)”認(rèn)作了“海星”；而在面對(duì)另一張布滿(mǎn)雜亂混合斑點(diǎn)的圖片時(shí)，該AI系統(tǒng)再一次犯錯(cuò)——它將圖示當(dāng)中的主體推論為“豹”，并對(duì)真實(shí)性做出了接近于100％的保證。

很顯然，“小狗實(shí)驗(yàn)”和克魯主導(dǎo)的圖像識(shí)別實(shí)驗(yàn)，都向人們反映出了這樣一個(gè)現(xiàn)象——人工智能在進(jìn)行分析推理的過(guò)程當(dāng)中，也會(huì)受到來(lái)自模型缺陷的干擾。比如在克魯?shù)膶?shí)驗(yàn)當(dāng)中，研究人員設(shè)定的識(shí)別模型，在樣本定義上必然是存在不足的。對(duì)此，另一位人工智能學(xué)者、來(lái)自普林斯頓大學(xué)的索倫·巴洛卡斯就認(rèn)為，克魯?shù)哪Ｐ彤?dāng)中沒(méi)有設(shè)定“生命”和“非生命”的限定，這就使得人工智能無(wú)法對(duì)一個(gè)樣本進(jìn)行有效區(qū)分。

圖 克魯實(shí)驗(yàn)：系統(tǒng)將左圖識(shí)別為海星，右圖識(shí)別為豹

巴洛卡斯解釋說(shuō)：“就以那張布滿(mǎn)雜亂斑點(diǎn)的圖像來(lái)說(shuō)，假如克魯團(tuán)隊(duì)關(guān)于識(shí)別模型的設(shè)定限定了‘很多斑點(diǎn)＝豹’這一規(guī)則，那么當(dāng)人們將這張圖片錄入到該模型當(dāng)中時(shí)，這個(gè)識(shí)別系統(tǒng)就會(huì)因?yàn)閺膱D片上檢測(cè)出很多斑點(diǎn)，進(jìn)而做出‘此圖示為豹’的結(jié)論�！�

可以看到，人工智能的邏輯推理是帶有強(qiáng)烈的程式化意味的。由于既定模型的局限性，即便是性能最為優(yōu)越的AI系統(tǒng)也會(huì)在判定時(shí)出現(xiàn)偏差。而在生活當(dāng)中，這一種推理機(jī)制帶來(lái)的缺陷，也很可能會(huì)為人們帶來(lái)極大的不便或者其他隱患。比如說(shuō)在反入侵智能識(shí)別系統(tǒng)當(dāng)中，一些不懷好意的人就可以通過(guò)識(shí)別模型的漏洞，給自己偽裝上適配于該模型的裝置，然后就可以順利通過(guò)智能機(jī)關(guān)的檢驗(yàn)。所以說(shuō)，如何利用規(guī)則，回避類(lèi)似漏洞就成了研究者們需要重點(diǎn)關(guān)注的話題。

顯然，在巴洛卡斯的話語(yǔ)當(dāng)中，我們已經(jīng)能剝離出部分解決人工智能因何被騙的誘導(dǎo)因素了。按照他的說(shuō)法，AI系統(tǒng)之所以能針對(duì)未知事物進(jìn)行判定推論，內(nèi)置在這一系統(tǒng)中的神經(jīng)網(wǎng)絡(luò)起到了關(guān)鍵性作用。而一旦這個(gè)網(wǎng)絡(luò)出現(xiàn)部分可被利用的漏洞，那么當(dāng)有“非正確的適應(yīng)性樣本”進(jìn)入檢驗(yàn)階段時(shí)，這個(gè)錯(cuò)誤的樣本就會(huì)被接受并解讀出來(lái)。

比如說(shuō)對(duì)于某一個(gè)神經(jīng)識(shí)別網(wǎng)絡(luò)，我們?cè)O(shè)定以下規(guī)則：

（1）穿紅色衣服的學(xué)生每人得到1個(gè)蘋(píng)果

（2）穿黃色衣服的學(xué)生每人得到2個(gè)蘋(píng)果

（3）穿非紅色衣服的學(xué)生不分配蘋(píng)果

很顯然，第三條規(guī)則的介入，對(duì)整個(gè)評(píng)判體系產(chǎn)生了錯(cuò)誤的影響。對(duì)于1名穿黃色衣服的同學(xué)來(lái)說(shuō)，如果按照第二條規(guī)則來(lái)執(zhí)行分配，他就會(huì)得到2個(gè)蘋(píng)果；如果按照第三條規(guī)則來(lái)界定，他就被排除在了分配原則之外。而在一個(gè)神經(jīng)網(wǎng)絡(luò)中，類(lèi)似沒(méi)有受到加權(quán)限制的規(guī)則，很可能會(huì)同時(shí)執(zhí)行，那么使用這一種網(wǎng)絡(luò)模型來(lái)分配蘋(píng)果，必然會(huì)出現(xiàn)一部分黃衣服學(xué)生持2個(gè)蘋(píng)果，另一部分黃衣服學(xué)生沒(méi)有分到蘋(píng)果的混亂現(xiàn)象。

所以說(shuō)，在一個(gè)模型體系中，互相之間存在矛盾的因素，是會(huì)對(duì)這個(gè)模型帶來(lái)極大的負(fù)面效果的。針對(duì)這種情況，其實(shí)只要再加上一條“假如規(guī)則之間發(fā)生沖突，以規(guī)則（1）為準(zhǔn)”，這一切就迎刃而解了。

另外，在上述幾條規(guī)則當(dāng)中，同樣也存在沒(méi)有針對(duì)樣本進(jìn)行深入限定的問(wèn)題。比如有1名穿紅衣服的玩偶混雜在了待分配者中，那么AI系統(tǒng)也會(huì)按照既定條例，給這個(gè)玩偶發(fā)放1個(gè)蘋(píng)果。那么針對(duì)這一漏洞，設(shè)計(jì)者需要做的其實(shí)和之前一樣，那就是增設(shè)規(guī)則選項(xiàng)，將受分配者限定為“能夠呼吸的人類(lèi)”。

所以說(shuō)，人工智能受到欺騙，實(shí)際上更多因素是受制于內(nèi)置模型的缺陷。由于對(duì)樣本規(guī)則的限定缺漏，人工智能在推理的過(guò)程中也會(huì)受到各種誤導(dǎo)。由于識(shí)別系統(tǒng)的模式化，AI系統(tǒng)對(duì)于樣本的判定都是通過(guò)模型當(dāng)中的設(shè)定點(diǎn)來(lái)尋求對(duì)應(yīng)關(guān)系的，在這種條件下，部分不符合要求的結(jié)果，或許也能因?yàn)殛P(guān)鍵點(diǎn)的契合而順利通過(guò)。如果要解決這一問(wèn)題，設(shè)計(jì)者就需要研發(fā)出更為精準(zhǔn)、驗(yàn)證節(jié)點(diǎn)更多，或者是研發(fā)出以“線性”“面性”，甚至是“立體性”的驗(yàn)證規(guī)則，而這就需要研究者進(jìn)行更為深入的研究。