“有人的地方，就有偏見，數(shù)據(jù)亦然�！�

在《Futurama》這部漫畫里，機(jī)器人法官風(fēng)趣而勇敢，但是現(xiàn)實中，COMPAS算法卻很難讓人笑得出來。

譯注：

COMPAS全稱是Correctional Offender Management Profiling for Alternative Sanctions，以“替代性制裁為目標(biāo)的懲教犯管理畫像”。簡單理解，就是對嫌疑人進(jìn)行人工智能畫像，以量刑或者判斷是否假釋。類似于2002年上映的電影《少數(shù)派報告》，將犯罪的萌芽消滅于襁褓之中。但此處提出COMPAS是因為這一算法因數(shù)據(jù)集或者其他問題，會產(chǎn)生對有色人種或特殊族裔的偏見。

和我們看過的大多數(shù)科幻電影不同，人工智能給現(xiàn)代生活帶來的革命是潤物無聲的；擁有自主意識的機(jī)器人統(tǒng)治人類的場景還沒有出現(xiàn)，但人工智已經(jīng)滲透到我們的生活之中，穩(wěn)步地侵入了以前人類獨有的決策領(lǐng)域。正因如此，你甚至可能沒有注意到你的生活中已經(jīng)有太多方面受到算法的影響。

清晨醒來，你伸手拿起手機(jī)，翻翻微博或者抖音，此時，一個由算法創(chuàng)建的內(nèi)容提要正在為你服務(wù)。然后你檢查了你的電子郵件，收件箱中只有重要的信息，因為所有可以忽略的內(nèi)容都已經(jīng)自動丟棄到垃圾郵件或促銷文件夾中。你戴上耳機(jī)，收聽網(wǎng)易云音樂上的一個新的播放列表，這是算法根據(jù)你以前所感興趣的音樂為你挑選的。繼續(xù)著上午的例行工作，你進(jìn)入汽車，并使用百度地圖，看看今天路上堵不堵。

在半個小時的時間里，你所消費的內(nèi)容、收聽的音樂以及你上班的路程都依賴于算法的預(yù)測建模，而不是你自己的大腦。

機(jī)器學(xué)習(xí)來了。人工智能來了。我們正處在信息革命的進(jìn)程之中，在感嘆生逢其時的同時，必須警惕隨之而來的影響。讓機(jī)器告訴你通勤的時間、你應(yīng)該聽的音樂以及你可能感興趣的內(nèi)容，這些都是相對無害的例子。但是當(dāng)你瀏覽你的微博新聞時，某個地方的一個算法正在決定某人的醫(yī)療診斷、假釋資格或者職業(yè)前景。

從表面上看，機(jī)器學(xué)習(xí)算法看起來是一種很有前景的解決方案，可以消弭人類的偏見，這一人性的弱點可能對數(shù)百萬人的生活產(chǎn)生負(fù)面影響。人們的初衷是，人工智能中的算法能夠在公平和高效等方面超越人類既有的水平。世界各地的公司、政府、組織和個人都在使用機(jī)器決策，支持這樣做的理由有很多：更可靠、更容易、更便宜、更節(jié)省時間等。然而，仍有一些問題需要注意。

偏見的一般定義

圖片來源：Getty Images

偏見可以被定義為在被認(rèn)為不公平的情況下比其他人更受青睞的某些事物、人或群體。它通常是對某些理性決定或規(guī)范的偏離，可以從統(tǒng)計學(xué)、法律、道德的或?qū)嵱弥髁x的角度來理解。我們在日常生活中以及在人類社會尺度上都可以看到偏見的影子。通常情況下，偏見之間會相互強(qiáng)化。

例如，在回家的路上，你可能會選擇走一條不那么“陰暗”的街區(qū)，為何會這樣？也許是因為這個地區(qū)是那些社會經(jīng)濟(jì)地位較低的人的家園。雖然不是說這類人群一定更有可能參與犯罪活動，但你的偏見，無論是顯性的還是隱性的，都促使你選擇一條不同的路線。從更宏觀的視角看，警方也可能由于偏見從而加強(qiáng)對這些地區(qū)的巡邏，而這反過來又可能導(dǎo)致比富裕的社區(qū)更高的逮捕率，從而產(chǎn)生一種高犯罪率的假象，而無關(guān)那里實際發(fā)生的犯罪率有多大。這種惡性循環(huán)似乎只會加劇我們最初的偏見。

算法與機(jī)器學(xué)習(xí)

讓我們首先區(qū)分經(jīng)典算法和機(jī)器學(xué)習(xí)算法。經(jīng)典算法通常被描述為輸入輸出處理器。傳統(tǒng)的編程依賴于植根于邏輯的函數(shù)：如果x，那么y。經(jīng)典算法是基于規(guī)則的，顯式的，生硬的。機(jī)器學(xué)習(xí)比這更復(fù)雜。機(jī)器學(xué)習(xí)算法不是通過預(yù)先設(shè)定的數(shù)據(jù)必須滿足的條件來做出決策，而是通過對決策領(lǐng)域中數(shù)百或數(shù)千個數(shù)據(jù)集的審計和統(tǒng)計分析來做出決定的。

例如，當(dāng)招聘學(xué)習(xí)算法尋找理想的求職者時，培訓(xùn)數(shù)據(jù)集可能會提供在企業(yè)中表現(xiàn)最好的候選人的200份簡歷，然后，算法在這些數(shù)據(jù)中尋找模式和相關(guān)性，這樣在評估一份新的簡歷的持有者能否成為理想的候選人的時候，算法的預(yù)測能力能夠更強(qiáng)。將決策交給機(jī)器學(xué)習(xí)算法對人類有許多好處，包括節(jié)省時間、金錢和精力。然而，當(dāng)涉及到道德和責(zé)任的決定，界限就會變得模糊。因為我們無法確切地理解為什么一臺機(jī)器會做出這樣的決定（基于人工智能算法中的黑盒特性），所以當(dāng)偏見發(fā)生時，我們并不總是能夠發(fā)現(xiàn)和回避。

機(jī)器學(xué)習(xí)的偏見

Mathwashing （盲目相信算法）

Mathwashing 是一個被創(chuàng)造出來的術(shù)語，用來代表社會對數(shù)學(xué)和算法的癡迷，以及一種心理傾向，即如果有數(shù)學(xué)或相關(guān)語義的參與（即使這些數(shù)值很武斷），就更容易相信某事物的真相。人類有一種傾向，認(rèn)為數(shù)學(xué)的參與會自動使事物客觀化，因為數(shù)學(xué)對象似乎獨立于人類的思想。而數(shù)學(xué)這一存在本身就是基于人類的思想，數(shù)學(xué)這一體系及相關(guān)屬性，作為人類思維的產(chǎn)物而存在，這使得數(shù)學(xué)與其他衡量方法一樣容易受到人的主觀性的影響。

訓(xùn)練數(shù)據(jù)“分類中的公平性”

機(jī)器學(xué)習(xí)算法是基于程序員選擇的數(shù)據(jù)集來訓(xùn)練的。有了這些訓(xùn)練數(shù)據(jù)，他們就能識別和利用統(tǒng)計數(shù)據(jù)中的模式、關(guān)聯(lián)和相關(guān)性。例如，通過數(shù)千張不同貓和狗的圖片，可以訓(xùn)練出區(qū)分貓和狗的算法。這種分類任務(wù)相對簡單；將算法應(yīng)用于基于人類的法庭判決比這錯綜復(fù)雜得多。例如，就刑事司法系統(tǒng)中的人工智能而言，協(xié)助法官作出是否給予罪犯假釋的決定，工程師可以將過去人類針對數(shù)千例案件所作出的判決輸入系統(tǒng)，但人工智能僅能就此了解到判決的結(jié)論。機(jī)器沒有能力感知到人類在做出這些判決時，是受何其多的變量的影響，而理性并不總是占據(jù)決策的主導(dǎo)地位。計算機(jī)科學(xué)家稱之為“選擇性標(biāo)簽”。人類的偏見是在多年的社會融合、文化積累、媒體影響中學(xué)到的。算法中學(xué)習(xí)偏見的滲透過程與此類似：就像人類在誕生之初并無偏見，算法本身也是不存在偏見的，但是，如果給定了一個有缺陷的數(shù)據(jù)集，偏見將不可避免。

社會反思

人類教會了算法根據(jù)輸入信息和從信息中提取的模式來進(jìn)行預(yù)測。鑒于人類存在著各種各樣的偏見，一個表征環(huán)境的數(shù)據(jù)集也同樣會表征這些偏見。從這個意義上說，算法就像鏡子：其學(xué)習(xí)模式反映了我們社會中存在的偏見，無論是顯性的還是隱性的。

微軟在2016年設(shè)計的人工智能聊天機(jī)器人，Tay

以Tay為例，它是微軟研發(fā)的聊天機(jī)器人。Tay的設(shè)計初衷是為了模擬一個十幾歲的女孩與Twitter用戶的互動內(nèi)容，然而，在不到24小時的時間里，網(wǎng)友就見證（其實是推動，譯者注）了Tay的轉(zhuǎn)變，從表達(dá)“人類是超酷的”這樣的天真無邪的小女生到叫囂“希特勒是對的，我恨猶太人”這樣的狂熱分子，僅僅是憑借互聯(lián)網(wǎng)上的推特互動。微軟刪除了這些推文，并解釋說Tay在最初的測試階段采用的數(shù)據(jù)集主要是經(jīng)過過濾的、非攻擊性的推文，因而并沒有出現(xiàn)任何問題。顯然，當(dāng)Tay上線時，過濾過程不復(fù)存在。從好的方面講，這似乎表明了一種消除偏見的可能方法，即隨著算法的使用和與現(xiàn)實世界的接觸，應(yīng)該對輸入的數(shù)據(jù)進(jìn)行監(jiān)測和過濾。