人工智能（AI）領(lǐng)域近期的兩個(gè)信息頗為引人關(guān)注：一是臉書(shū)關(guān)閉其對(duì)話機(jī)器人項(xiàng)目，坊間傳聞是因?yàn)锳I的語(yǔ)言邏輯失控；另外一個(gè)是國(guó)內(nèi)的兩款聊天機(jī)器人在回答一些涉及政治的問(wèn)題時(shí)給出了“不正確”的答案。

由于業(yè)務(wù)范圍不同，筆者對(duì)于基于深度學(xué)習(xí)的語(yǔ)義AI的基本原理細(xì)節(jié)了解不多。不過(guò)，所有基于深度學(xué)習(xí)的人工智能，實(shí)際上都可抽象為目標(biāo)分割及基于海量數(shù)據(jù)的訓(xùn)練，區(qū)別在于不同領(lǐng)域目標(biāo)分割的策略和算法不同，海量數(shù)據(jù)的訓(xùn)練和比對(duì)的邏輯也不同。筆者熟悉的安防領(lǐng)域的車牌識(shí)別，就是先切分成單個(gè)字符，然后通過(guò)數(shù)據(jù)訓(xùn)練識(shí)別出是什么字符；而人臉識(shí)別則先是在一幅圖片中識(shí)別，分割出人臉的部分，再利用數(shù)據(jù)訓(xùn)練比對(duì)出目標(biāo)是誰(shuí)。

資料圖

雖然算法邏輯各不相同，但總體來(lái)看，基于深度學(xué)習(xí)的算法有一個(gè)共通點(diǎn)，即程序的設(shè)計(jì)者也無(wú)法確知這種經(jīng)由海量數(shù)據(jù)反復(fù)訓(xùn)練和迭代帶來(lái)的結(jié)果是什么。因此在某種意義上，帶有這種特征的AI的“行為”變得不可準(zhǔn)確預(yù)測(cè)，這在一些人機(jī)交互相關(guān)的AI領(lǐng)域引發(fā)恐慌。不少人認(rèn)為，這標(biāo)志著這些AI開(kāi)始具備某種程度上的“自主意識(shí)”，從而開(kāi)始威脅人類的地位。

實(shí)際上，從基本原理的角度講，這距離自主意識(shí)還相去甚遠(yuǎn)。AI的原生邏輯與規(guī)則能力還非常原始，更多的是通過(guò)數(shù)據(jù)量的優(yōu)勢(shì)，依靠強(qiáng)大的計(jì)算來(lái)增強(qiáng)結(jié)果獲取的能力。舉個(gè)形象的例子，比如很流行的用計(jì)算機(jī)寫(xiě)詩(shī)或者寫(xiě)歌的程序，其實(shí)是在大量人類已有詩(shī)句的基礎(chǔ)上，基于某種策略衡量標(biāo)準(zhǔn)的組合，而不是像王維杜牧寫(xiě)詩(shī)時(shí)，用文字去映射所要表達(dá)的感情。從這個(gè)意義上講，最優(yōu)秀的語(yǔ)義AI，也依然是人類已有信息和邏輯的衍生物，而不是突破者。

但有一點(diǎn)值得去推演。機(jī)器擁有同時(shí)掌控大量數(shù)據(jù)和信息的能力，而人類在這方面遜色太多了。這種差異與某種程度上的“可能突變”有多少內(nèi)在的因果關(guān)系，或許人類自己也回答不了。于是才會(huì)有霍金和馬斯克的憂慮，才會(huì)有大家對(duì)上述事件的猜想與解讀。

盲目的擔(dān)憂無(wú)濟(jì)于事，神秘主義的放任也是不對(duì)的。從整體上說(shuō)，AI領(lǐng)域需要有架構(gòu)設(shè)計(jì)來(lái)規(guī)避未知的風(fēng)險(xiǎn)。通過(guò)某種方式隔離運(yùn)算與策略部分和動(dòng)作執(zhí)行部分，確保做推斷和決策的AI部分不能直接進(jìn)行動(dòng)作操作，這在一定程度上可以降低風(fēng)險(xiǎn)。比如對(duì)于對(duì)話機(jī)器人的某些答案要設(shè)置過(guò)濾策略，以降低其太過(guò)離譜的可能�？苹秒娪爸心欠N人形、活蹦亂跳的AI其實(shí)并非主體形式，目前大部分的AI其實(shí)是一堆數(shù)據(jù)線連起來(lái)的機(jī)器陣列而已。所以人類才會(huì)保留最終的“拔電權(quán)”。這當(dāng)然太過(guò)簡(jiǎn)單粗暴。人類社會(huì)需要的是一個(gè)能夠跟得上AI發(fā)展與迭代速度的學(xué)科分支，專門研究約束AI風(fēng)險(xiǎn)的架構(gòu)和技術(shù)。（作者是浙江宇視科技副總裁）