AI與女性之間的關(guān)系，似乎一直不太好。

提到AI，我們看到的往往是“AI篩選簡歷帶有性別歧視，更偏向于男性員工”“AI取代秘書、翻譯和速記正在讓女性失業(yè)”“一切AI助理都是女性配音加重男權(quán)主義”……

AI作為人類智慧與經(jīng)驗的高度結(jié)晶，同樣也繼承了人類社會文化中糟粕的部分，并且會毫無遮掩展示出來。

但今天我們要講的這個故事，是關(guān)于AI如何保護(hù)女性遠(yuǎn)離網(wǎng)絡(luò)暴力。

女記者、女政治家和女權(quán)活動家的共同罪過

你遭受過網(wǎng)絡(luò)暴力嗎？

對于大多數(shù)人來說，網(wǎng)絡(luò)暴力離我們很遠(yuǎn)。但即使在某一次莫名為微博噴子騷擾時，男性和女性也一定會有不同的體驗。對于男性來說，遭到的辱罵通常是“傻X”一類的常規(guī)詞匯，或者是對家人的“問候”。而對于女性來說，往往會遭受到對自己身材、外貌的攻擊，以及性方面的騷擾。

在大赦國際的調(diào)查中發(fā)現(xiàn)，這種情況非常普遍，并且在Twitter這樣的公共話語空間中已經(jīng)上升到了危害女性人權(quán)的程度。

今年以來，大赦國際陸續(xù)推出了長達(dá)八章的調(diào)查報告，講述普通女性、女記者、女政治家是如何因為自己的女性身份而在Twitter中飽受噴子們的侮辱的。而篇調(diào)查報告的名稱就是《Toxic Twitter》——有毒的推特。

我們可以摘幾組調(diào)查報告中出現(xiàn)的數(shù)據(jù)：

“2017年全年，有110萬條辱罵性的推文被發(fā)給了778名女記者和政治家。”

“在發(fā)送給女性的推文中，有7．1％都涉及到攻擊和辱罵。”

“在辱罵女性的推文中，提及黑人女性推文的比率比白人女性高84％�！�

而那些辱罵女性推文的大概內(nèi)容又是什么呢？

有這樣的：

還有這樣的：

如圖所示，一切的辱罵和威脅，總與性有關(guān)，時時刻刻強(qiáng)調(diào)著女性身份的弱勢之處。

在調(diào)查時，女政治家和記者也表示，因為性別而遭受到的攻擊，是她們職業(yè)路上非常重要的困難和障礙。當(dāng)男性遭到攻擊時，被攻擊的是他的行為和他的工作成果�？僧�(dāng)女性遭受到攻擊時，噴子們總會瞄準(zhǔn)她們的性別。

仿佛生而為女人，應(yīng)當(dāng)抱歉。

算法除了推動流量涌動，還推動了什么？

而這一切中有Twitter哪些責(zé)任呢？

從基本上而言，Twitter沒有足夠強(qiáng)大的敏感詞審核和過濾機(jī)制，不能從源頭控制這些辱罵性的語言。

最主要的是，Twitter算法的向智能推薦方向調(diào)整后，原本相對封閉的關(guān)注體系變得更加開放了。在過去那些女政治家、女記者和普通女性的賬號以及推文內(nèi)容只會顯示在關(guān)注者的Timeline上。但信息流變得更加開放后，更大的流量同樣也帶來了黑子和極端性別主義者——同樣這些辱罵女性的推文雖然來自普通人，但在全新的算法機(jī)制下，即使他們沒有什么關(guān)注者，也會獲得不少曝光。一方面加重了語言傷害的能量，另一方面也讓那些黑子可以更方便地找到彼此，形成組織對女性進(jìn)行攻擊。

大赦國際也表示，他們已經(jīng)數(shù)次向Twitter反映了這些問題，卻一直沒有得到滿意的答復(fù)。

其實在這件事上，Twitter顯得有些無辜。畢竟算法調(diào)整增強(qiáng)了各個圈層的互相了解，本意上是好的。我們也知道，通過人工智能識別出侮辱性詞匯，尤其是針對性別的侮辱性詞匯并不是那么容易。就像“if she was raped，would she keep her mouth shut？”（如果強(qiáng)奸了她，她能夠閉上嘴嗎？）這句話從詞匯上看來并沒有什么不對，但是聯(lián)合語境看來卻是在用非常暴力的性犯罪來威脅女性停止發(fā)聲。

但算法造成問題，還要算法來解決。