人工智能的主要障礙：心態(tài)、文化和遺產(chǎn)

傳統(tǒng)系統(tǒng)轉(zhuǎn)型是當(dāng)今許多組織實(shí)施人工智能的最大障礙。心態(tài)和文化是這些傳統(tǒng)系統(tǒng)的組成部分，它們提供了對(duì)已建立的流程、價(jià)值觀和業(yè)務(wù)規(guī)則的系統(tǒng)觀點(diǎn)，這些規(guī)則不僅包括組織的運(yùn)作方式，還包括為什么這些根深蒂固的元素會(huì)給業(yè)務(wù)帶來重大障礙的原因，尤其是在目前很好的情況下。因此，很多企業(yè)目前沒有動(dòng)力去放棄基礎(chǔ)設(shè)施。

人工智能是業(yè)務(wù)轉(zhuǎn)型的一個(gè)組成部分，雖然這個(gè)主題與人工智能炒作一樣得到了一些人的質(zhì)疑，但實(shí)現(xiàn)重大變革所需的投資和承諾卻猶豫不決。有一些愿意嘗試特定用例的公司，但卻沒有準(zhǔn)備好培訓(xùn)、重新設(shè)計(jì)流程和改進(jìn)治理和企業(yè)政策的要求。對(duì)于被迫進(jìn)行這些重大投資的大型組織而言，問題不應(yīng)該是投資回報(bào)，而是可持續(xù)的競爭優(yōu)勢。

數(shù)據(jù)完整性的問題

人工智能如今需要大量數(shù)據(jù)才能產(chǎn)生有意義的結(jié)果，但卻無法利用其他應(yīng)用程序的體驗(yàn)。雖然Karen認(rèn)為行業(yè)廠商正在進(jìn)行的工作是為了克服這些限制，但在以可擴(kuò)展的方式應(yīng)用模型之前，需要轉(zhuǎn)移學(xué)習(xí)。然而，有些場景可以有效地使用人工智能，例如透露圖像、語音、視頻和翻譯語言的見解。

企業(yè)正在學(xué)習(xí)的重點(diǎn)應(yīng)放在：

（1）數(shù)據(jù)的多樣性，包括跨群體的適當(dāng)表現(xiàn)。

（2）確保創(chuàng)建算法的多樣化體驗(yàn)、觀點(diǎn)和思考。

（3）優(yōu)先考慮數(shù)據(jù)的質(zhì)量而不是數(shù)量

Karen c承認(rèn)這些都是重要的，特別是隨著偏見的引入以及對(duì)數(shù)據(jù)的信任的降低。例如，土耳其語是一種性別中立的語言，但谷歌翻譯中的人工智能模型在轉(zhuǎn)譯成英語時(shí)錯(cuò)誤地預(yù)測了性別。同樣在癌癥診療中，人們發(fā)現(xiàn)人工智能圖像識(shí)別只在皮膚白皙的人身上進(jìn)行訓(xùn)練。從其計(jì)算機(jī)視覺示例中，Joy Buolamwini測試了這些人工智能技術(shù)，并意識(shí)到它們在男性與女性之間以及在膚色較淺與較深的皮膚有效工作的差別。“男性的錯(cuò)誤率低至1％，黑人女性的錯(cuò)誤率高達(dá)35％�！庇捎谖茨苁褂貌煌�的訓(xùn)練數(shù)據(jù)，因此出現(xiàn)了這些問題。

人工智能的概念很簡單，但是通過攝取越來越多的真實(shí)世界數(shù)據(jù)，算法變得更加智能，然而能夠解釋決策變得極其困難。數(shù)據(jù)可能是不斷變化的，人工智能模型需要過濾器來防止錯(cuò)誤的標(biāo)記，例如一個(gè)黑人被標(biāo)記為大猩猩或者將熊貓標(biāo)記為長臂猿的圖像。依靠錯(cuò)誤數(shù)據(jù)做出決策的企業(yè)會(huì)導(dǎo)致不明智的結(jié)果。

幸運(yùn)的是，鑒于人工智能的初衷，很少有組織正在根據(jù)當(dāng)今的數(shù)據(jù)做出重大的業(yè)務(wù)決策。從人們看到的情況來看，大多數(shù)解決方案主要是產(chǎn)品推薦和個(gè)性化營銷傳播。由此產(chǎn)生的任何錯(cuò)誤結(jié)論都會(huì)產(chǎn)生較少的社會(huì)影響，至少目前如此。

使用數(shù)據(jù)做出業(yè)務(wù)決策并不新鮮，但改變的是使用的結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的數(shù)量和組合的指數(shù)級(jí)增長。人工智能使人們能夠持續(xù)使用來自其來源的數(shù)據(jù)，并更快地獲得洞察力。對(duì)于具有處理來自不同來源的數(shù)據(jù)量的能力和結(jié)構(gòu)的企業(yè)來說，這是一個(gè)機(jī)會(huì)。但是，對(duì)于其他組織而言，大量數(shù)據(jù)可能代表風(fēng)險(xiǎn)，因?yàn)椴煌�的來源和格式使得信息轉(zhuǎn)換變得更加困難：電子郵件、系統(tǒng)日志、網(wǎng)頁、客戶成績單、文檔、幻燈片、非正式聊天、社交網(wǎng)絡(luò)，以及爆炸性的富媒體（如圖像和視頻）。數(shù)據(jù)轉(zhuǎn)換仍然是開發(fā)清潔數(shù)據(jù)集的絆腳石，因此也是有效的模型。

偏見比人們意識(shí)到的更為普遍

許多商業(yè)模式中存在偏差，需要最大程度地降低風(fēng)險(xiǎn)評(píng)估，優(yōu)化目標(biāo)機(jī)會(huì)，雖然它們可能產(chǎn)生有利可圖的業(yè)務(wù)成果，但它們也可能會(huì)導(dǎo)致意外后果，從而加大經(jīng)濟(jì)差異。保險(xiǎn)公司可以使用位置信息或信用評(píng)分?jǐn)?shù)據(jù)向客戶收取不同的保險(xiǎn)費(fèi)用。銀行可能會(huì)拒絕信用評(píng)分較低的潛在客戶，他們已經(jīng)債務(wù)纏身，但可能無力承擔(dān)較高的貸款利率。

由于采用人工智能不僅會(huì)使現(xiàn)有的偏見持續(xù)下去，而且會(huì)導(dǎo)致經(jīng)濟(jì)和社會(huì)鴻溝的加深，因此對(duì)偏見的警惕性越來越高。偏見在當(dāng)前算法中呈現(xiàn)，以確定再犯的可能性。由一家名為Northpointe的機(jī)構(gòu)創(chuàng)建的修正罪犯的管理分析替代性制裁（COMPAS）。COMPAS的目標(biāo)是評(píng)估庭審聽證會(huì)中被告的犯罪風(fēng)險(xiǎn)和預(yù)測。在最初的COMPAS研究中使用的問題類型揭示了人類偏見，即該制度延續(xù)了對(duì)待黑人的建議，他們可能會(huì)繼續(xù)犯罪，因此對(duì)他們采用的法律比白人被告更加嚴(yán)厲，而白人繼續(xù)重新犯罪在量刑時(shí)將被寬大處理。由于沒有公共標(biāo)準(zhǔn)，Northpointe公司創(chuàng)建自己的公平定義，并開發(fā)一種沒有第三方評(píng)估的算法。

如果這個(gè)軟件僅僅像未受過訓(xùn)練的人在線調(diào)查那樣精確，那么人們認(rèn)為法院在作出判決時(shí)應(yīng)該考慮是否公平。雖然人們嘗試修復(fù)現(xiàn)有系統(tǒng)以最大限度地減少這種偏差，但模型對(duì)不同數(shù)據(jù)集進(jìn)行訓(xùn)練以防止未來的危害至關(guān)重要。

鑒于潛在的商業(yè)和社會(huì)模型存在潛在風(fēng)險(xiǎn)，企業(yè)沒有治理機(jī)制來監(jiān)督不公平或不道德的決策，這些決定將無意中影響最終消費(fèi)者。這是在道德規(guī)范下進(jìn)行討論的。

日益增長的隱私需求

Karen與強(qiáng)大的研究和數(shù)據(jù)團(tuán)隊(duì)合作，這些團(tuán)隊(duì)能夠在整個(gè)平臺(tái)上對(duì)用戶的行為進(jìn)行情境化，不斷研究用戶行為，并了解他們在音樂、主頁、生活方式、新聞等眾多屬性中的傾向。而并沒有嚴(yán)格的數(shù)據(jù)使用標(biāo)準(zhǔn)或規(guī)定。隱私被降級(jí)為平臺(tái)條款和條件的用戶被動(dòng)協(xié)議。

最近的劍橋分析公司和Facebook公司的數(shù)據(jù)泄露丑聞使個(gè)人數(shù)據(jù)隱私得到了更多人的關(guān)注。Equifax公司等主要信貸機(jī)構(gòu)頻繁發(fā)生數(shù)據(jù)泄露事件。因此，數(shù)據(jù)所有權(quán)、同意和錯(cuò)誤的情境化問題使得其成為一個(gè)重要的主題，因?yàn)槿斯ぶ悄軐⒗^續(xù)解決其問題。歐洲通用數(shù)據(jù)保護(hù)條例（GDPR）于2018年5月25日生效，將改變組織的游戲規(guī)則，特別是那些收集、存儲(chǔ)和分析個(gè)人用戶信息的組織。它將改變多年來經(jīng)營業(yè)務(wù)的規(guī)則。個(gè)人信息的無節(jié)制使用已經(jīng)達(dá)到了頂峰，因?yàn)槠髽I(yè)現(xiàn)在將認(rèn)識(shí)到在數(shù)據(jù)使用上存在重大限制。更重要的是，所有權(quán)將受到嚴(yán)重限制。

人們看到這對(duì)廣告推廣的影響。規(guī)模高達(dá)750億美元的廣告行業(yè)預(yù)計(jì)將在2018～2021年以21％的復(fù)合年增長率增長，但仍然面臨Facebook公司和谷歌公司等行業(yè)寡頭壟斷的阻礙。如今實(shí)施的GDPR法規(guī)讓這些廣告科技公司面臨更重大的風(fēng)險(xiǎn)與責(zé)任：其利害關(guān)系足夠大，以至于廣告商必須非常高度自信，因?yàn)閷?duì)用戶所告知的實(shí)際上是合規(guī)的。對(duì)于最終構(gòu)成違規(guī)的行為似乎有足夠的普遍混淆，人們正在采取廣泛的方法，直到可以準(zhǔn)確了解合規(guī)性是什么。

雖然法規(guī)的監(jiān)管最終會(huì)削弱收入，但至少在目前，移動(dòng)和廣告平臺(tái)行業(yè)也面臨著越來越嚴(yán)格的審查，因?yàn)樗麄兌嗄陙硪恢睂⑾�費(fèi)者作為實(shí)現(xiàn)貨幣化的主題。這與對(duì)既定實(shí)踐的審查相結(jié)合，將迫使行業(yè)轉(zhuǎn)變其在收集、匯總、分析和共享用戶信息方面的做法。

實(shí)現(xiàn)隱私需要時(shí)間、重大投資（需要更多關(guān)注的話題），以及影響組織政策、流程和文化的思維方式的變化。

人工智能與倫理學(xué)的必然耦合

人工智能的主要因素確保了社會(huì)效益，包括簡化流程、增加便利性、改進(jìn)產(chǎn)品和服務(wù)，以及通過自動(dòng)化檢測潛在危害。放棄后者意味著可以根據(jù)更新的制造流程、服務(wù)和評(píng)估解決方案、生產(chǎn)以及產(chǎn)品質(zhì)量來輕松地測量輸入／輸出。

Tech Cos面對(duì)AICB Insights的道德規(guī)范

除了個(gè)人隱私問題之外，如今人們看到了一些創(chuàng)新的例子，這些創(chuàng)新與不合情理的邊界相悖。如前所述，谷歌公司決定向美國國防部提供人工智能技術(shù)以分析無人機(jī)拍攝的內(nèi)容，其目的是在一個(gè)名為“Maven計(jì)劃”的項(xiàng)目中創(chuàng)建一個(gè)復(fù)雜的系統(tǒng)來監(jiān)視城市各個(gè)角落。一些員工離職以抗議谷歌公司的決定。

決策者和監(jiān)管機(jī)構(gòu)需要灌輸新的流程和政策，以正確評(píng)估人工智能技術(shù)的使用方式、用于什么目的，以及流程中是否存在意外后果。 Karen指出了在確定人工智能算法中數(shù)據(jù)使用時(shí)需要考慮的新問題：

那么人們?nèi)绾螜z測敏感數(shù)據(jù)字段并對(duì)其進(jìn)行匿名處理，并同時(shí)保留數(shù)據(jù)集的重要功能？人們能否在短期內(nèi)培訓(xùn)合成數(shù)據(jù)作為替代方案？在創(chuàng)建算法時(shí)，人們需要問自己：需要哪些數(shù)據(jù)來提供想要的結(jié)果？此外，人們應(yīng)該創(chuàng)建哪些參數(shù)來定義模型中的“公平性”，這意味著處理方式有何不同？如果是這樣，為什么？人們?nèi)绾卧谙到y(tǒng)中持續(xù)監(jiān)控這一點(diǎn)？

人工智能的冬季可能是為人工智能做好準(zhǔn)備的機(jī)會(huì)

人工智能技術(shù)已經(jīng)走過了漫長的道路，但仍需要更多時(shí)間才能發(fā)展成熟。在日益增加的自動(dòng)化和有意識(shí)地提高認(rèn)知計(jì)算能力的世界中，即將到來的人工智能的冬天為企業(yè)提供了必要的時(shí)間來確定人工智能如何適應(yīng)他們的組織以及想要解決的問題。人工智能即將出現(xiàn)的損失需要在政策、治理及其對(duì)個(gè)人和社會(huì)的影響中加以解決。

人工智能技術(shù)在下一次工業(yè)革命中的影響要大得多，因?yàn)槠淦毡樾詫⒃谌藗兊纳�活中變得更加微妙。行業(yè)專家Geoff Hinton、Fei Fei Lee和Andrew Ng對(duì)人工智能的觀點(diǎn)呼吁人工智能重置，因?yàn)樯疃葘W(xué)習(xí)尚未證明可擴(kuò)展。人工智能技術(shù)所做出的承諾并沒有減弱，而是對(duì)其實(shí)際到來的期望被推遲了，可能是5到10年。人們有時(shí)間在深度學(xué)習(xí)、其他人工智能方法以及有效地從數(shù)據(jù)中提取價(jià)值的過程中解決這些問題。商業(yè)準(zhǔn)備、監(jiān)管、教育和研究的高潮是實(shí)現(xiàn)業(yè)務(wù)和消費(fèi)者加速發(fā)展的必要條件，并確保建立適當(dāng)限制技術(shù)的監(jiān)管體系。