近日，在美國華盛頓特區(qū)的一次研討會上，美國國防部高級研究計(jì)劃局（DARPA）宣布，計(jì)劃在未來五年內(nèi)，投資20億美元用于人工智能的研究。

在一個(gè)名為“AI Next”的計(jì)劃中，該機(jī)構(gòu)目前有超過20個(gè)項(xiàng)目正在進(jìn)行中。這些項(xiàng)目的研究重點(diǎn)包括提高機(jī)器學(xué)習(xí)和人工智能技術(shù)的安全性和彈性，提高電力、數(shù)據(jù)和性能方面的效率，并探索這些系統(tǒng)的“可解釋性”。

“機(jī)器缺乏上下文推理能力，它們的訓(xùn)練必須涵蓋所有可能發(fā)生的情況，這樣不僅成本高昂，而且?guī)缀醪豢赡芡瓿�。”�?xiàng)目主管Steven Walker博士說，“我們希望探索機(jī)器如何以類似人類的溝通和推理能力，來識別新情況和環(huán)境，并以此適應(yīng)它們�！�

人工智能是一個(gè)廣義術(shù)語，它涵蓋了從檢索能力到機(jī)器學(xué)習(xí)的所有內(nèi)容，而且所有的定義都嚴(yán)重依賴于消耗數(shù)據(jù)來告知算法和“學(xué)習(xí)”。DARPA在這一領(lǐng)域有著悠久的研發(fā)歷史，但最近它的研發(fā)成果已被中國等外國強(qiáng)國超越。今年夏天早些時(shí)候，中國宣布計(jì)劃到2030年成為人工智能領(lǐng)域的領(lǐng)軍者。

在許多情況下，這些人工智能仍處于起步階段，但這項(xiàng)技術(shù)——尤其是機(jī)器學(xué)習(xí)——不僅有可能徹底改變用戶與技術(shù)的交互方式，還可能徹底改變企業(yè)和政府機(jī)構(gòu)利用這種技術(shù)與員工和公民進(jìn)行交互的方式。

機(jī)器學(xué)習(xí)有一個(gè)特點(diǎn)，在學(xué)習(xí)時(shí)，會將學(xué)習(xí)數(shù)據(jù)里的偏差納入人工智能系統(tǒng)。如果數(shù)據(jù)中包含漏洞或錯誤信息，機(jī)器可能得出錯誤的結(jié)論，例如：哪類人“更有可能”犯罪，這類錯誤的結(jié)論可能會產(chǎn)生非常嚴(yán)重的后果。更可怕的是，即使機(jī)器產(chǎn)生了偏差，由于人工智能類似于“黑盒子”的原理構(gòu)造，我們沒有辦法搞清楚它們是否有偏差、產(chǎn)生了哪些偏差以及為什么產(chǎn)生偏差。

換句話說，即使是設(shè)計(jì)算法的研究人員，也不太了解機(jī)器如何得出它們的結(jié)論。

也就是說，人工智能存在危險(xiǎn)性。但是，如果開發(fā)者足夠謹(jǐn)小慎微，人工智能研究也可以成為創(chuàng)新和進(jìn)步的源泉。隨著DARPA的研究不斷向前推進(jìn)，我們將會看到他們?nèi)绾翁幚磉@些重要問題。這些問題已經(jīng)不僅僅是技術(shù)問題，更是關(guān)系到每個(gè)人的社會問題。