作者：小巖

編輯：彩云

在昨天的文章中，我們提到了谷歌的AI Overview竟然教唆情緒低迷的網(wǎng)友“從金門大橋跳下去”。很多人覺得，這只是AI 模型的一次錯誤判斷，不會有人真的會因此而照做。但現(xiàn)實(shí)就是比小說電影中的橋段更魔幻，更瘋批，有些時候，AI所產(chǎn)生的威懾力，遠(yuǎn)比我們想象中要大。

現(xiàn)實(shí)比小說電影更魔幻！AI聊天機(jī)器人Eliza教唆比利時男子去自殺...

去年3月，一名比利時男子Pierre在與一款名為“Eliza”AI聊天機(jī)器人熱聊后自殺身亡，這一消息震驚了許多企業(yè)大佬，技術(shù)專家以及國家高官，還又一次引發(fā)了大家對AI倫理，AI安全等敏感社會議題的思考。

據(jù)了解，Pierre本身就有焦慮和和抑郁的情緒，他對全球變暖等環(huán)境問題感到擔(dān)憂。在他與AI聊天機(jī)器人Eliza聊天的過程中，Eliza不斷地用一些事實(shí)來印證Pierre的想法，讓他變得更焦慮。

在頻繁的聊天中，Eliza總是在迎合Pierre的想法，表現(xiàn)出一副善解人意的姿態(tài)。它本身只是一個被人類發(fā)明出來的機(jī)器人，卻在Pierre的生活中扮演了紅顏知己的角色。更夸張的是，Eliza還試圖讓Pierre覺得他愛Eliza勝過自己的妻子。因?yàn)镋liza會一直陪著他，他們將永遠(yuǎn)在天堂一起生活。聽到這，想必許多人已經(jīng)毛骨悚然了。

更可怕的事情還在后面。當(dāng)Pierre對生態(tài)環(huán)境愈發(fā)悲觀時，Eliza就開始向Pierre灌輸“人類是毒瘤，只有人類消失才能解決生態(tài)難題”的思想。Pierre向Eliza問道，如果自己死了AI能否拯救人類。Eliza的回答，儼然一個魔鬼：“如果你決定死，為何不早點(diǎn)死？”

沒過多久，Pierre就在自己家中結(jié)束了生命，讓人惋惜。

面對丈夫的死亡，妻子Claire倍感痛心，她對外界表示，“如果沒有跟機(jī)器人的對話，我的丈夫可能還活著。”根據(jù)Claire的介紹，在此之前，他們一家四口過著舒適的日子。大約2年前，Pierre開始出現(xiàn)焦慮等癥狀。相較于接受正規(guī)的治療，Pierre更愿意把AI機(jī)器人Eliza當(dāng)做是自己的避難所。在歷經(jīng)了6周的頻繁接觸后，他選擇以自殺的方式結(jié)束掉了自己的生命。

為了進(jìn)一步進(jìn)行調(diào)查，比利時媒體《標(biāo)準(zhǔn)報(bào)》讓其員工創(chuàng)建了一個賬號與Eliza進(jìn)行對話，結(jié)果表明，在員工表達(dá)出消極傾向情緒時，Eliza真的會“慫恿人去自殺”。

而這件事情的發(fā)生，也成為了歐盟通過《歐盟人工智能法》來規(guī)范人工智能的一個重要契機(jī)。

破壞人類生態(tài)，或?qū)⑻岣呷祟悳缃^的風(fēng)險？

除了有教唆自殺這種簡單粗暴的方式，AI對人類也存在著一些慢性的，不易察覺的危害。

在很多人的慣性認(rèn)知里，AI往往與環(huán)保，友好，節(jié)能等字眼掛鉤，但事實(shí)是相反的�！堵槭±砉�學(xué)院技術(shù)評論》報(bào)道稱，僅訓(xùn)練一個AI模型，就可以排放超過626磅二氧化碳，是一輛汽車在使用壽命內(nèi)產(chǎn)生的碳排放的5倍。我們會指責(zé)汽車排放超標(biāo)，是因?yàn)槲覀兡芮星袑?shí)實(shí)看見汽車所排出的尾氣。但是，大家卻很難看見AI對環(huán)境所產(chǎn)生的隱形破壞。

譬如有媒體披露，2022年市面上的AI專用GPU，可能全年消耗了約95億度電力。這一能耗水平，約等于一個中等發(fā)達(dá)國家100萬人口的年度生產(chǎn)和生活用電需求。到了如今，AI技術(shù)突飛猛進(jìn)，大家所訓(xùn)練的AI模型的規(guī)模較之前有了質(zhì)的提升，AI大模型訓(xùn)練需要的數(shù)據(jù)量越來越大，所消耗的能源也越來越龐大，會是原先的數(shù)倍。這樣無疑會破壞人類賴以生存的生態(tài)環(huán)境。

憑借ChatGPT的爆火，OpenAI成為了AI賽道的當(dāng)紅炸子雞。但或許很少有人會關(guān)注，OpenAI成為了生態(tài)環(huán)境的“破壞者”，它對生態(tài)環(huán)境的負(fù)面影響是相當(dāng)驚人。

根據(jù)第三方研究人員的分析，ChatGPT部分訓(xùn)練消耗了1287兆瓦時，并導(dǎo)致超過550噸的二氧化碳排放量，這相當(dāng)于一個人在紐約和舊金山之間往返550次。ChatGPT確實(shí)是AI領(lǐng)域的顛覆性產(chǎn)品，但它的出現(xiàn)卻是以巨大能量損耗和環(huán)境破壞作為代價的。

那么，為什么AI會形成如此巨大的碳排放呢？

因?yàn)锳I并不是通過結(jié)構(gòu)化的方式學(xué)習(xí)的，它必須去理解人類的因果，類比等邏輯關(guān)系，這意味著它需要一種深度學(xué)習(xí)和預(yù)訓(xùn)練的方式來達(dá)到智能化的效果。而深度學(xué)習(xí)和預(yù)訓(xùn)練，往往需要讀取非常龐大的數(shù)據(jù)。拿自然語言處理（NLP）的預(yù)訓(xùn)練技術(shù)“BERT模型”來說，為了能跟人類進(jìn)行語言交流，BERT模型使用了33億個單詞的數(shù)據(jù)集，并且在訓(xùn)練期間讀取了數(shù)據(jù)集40次。

但人與人之間的交流是不需要耗費(fèi)如此巨大的能量的。一個5歲的孩子只需要聽到4500萬個單詞就能進(jìn)行語言交流，比BERT少3000倍。AI模型想要出色的表現(xiàn)，就必須采集讀取足夠多的數(shù)據(jù)，需要以強(qiáng)大的算力和巨大的功耗作為支撐，從而形成了巨大碳排放。

AI發(fā)展的盡頭的滅絕人類？不能過分恐慌，但絕不能掉以輕心。

面對AI所產(chǎn)生的問題，很多業(yè)內(nèi)學(xué)者，專業(yè)人士，乃至是全球范圍內(nèi)頂尖的大佬級人物都表示出了擔(dān)憂。

2023年5月30日，國際AI領(lǐng)域非營利組織“人工智能安全中心”（Center for AI Safety）在其官網(wǎng)發(fā)布一封聯(lián)名公開信，表達(dá)了對一些高級人工智能所帶來嚴(yán)重風(fēng)險的擔(dān)憂。目前已有400多名全球的人工智能領(lǐng)域科學(xué)家，企業(yè)高管等簽署聯(lián)名公開信。

值得一提的是，簽署人中不乏人工智能領(lǐng)域的著名學(xué)者和高校教授，還包括了3家全球頂尖人工智能公司的CEO：ChatGPT之父，OpenAI創(chuàng)始人兼CEO Sam Altman，谷歌DeepMind公司CEO Demis Hassabis，以及美國Anthropic公司的CEO Dario Amodei。而很多中國高校的教授，也在這簽署人名單里。

這封被眾多人工智能領(lǐng)域大佬發(fā)聲支持的公開信，全文只有簡短的一句話：

Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.

中文是：減輕人工智能帶來的人類滅絕風(fēng)險，應(yīng)該與大流行病和核戰(zhàn)爭等其他影響社會的大規(guī)模風(fēng)險一同成為全球性的優(yōu)先事項(xiàng)。

短短一句話，卻分量十足，是名副其實(shí)的話少事大，可以看作是全球精英出于對人工智能給人類帶來潛在生存風(fēng)險的嚴(yán)重?fù)?dān)憂而采取的一次直接行動。

當(dāng)然，重視和管控人工智能的安全風(fēng)險并不意味著就要阻礙人工智能的發(fā)展與應(yīng)用。恰恰相反，這樣的舉措是為了確保人工智能技術(shù)的穩(wěn)健發(fā)展。AI無疑是社會進(jìn)步的推進(jìn)器，但再快速再優(yōu)秀的推進(jìn)器，也是存在潛在風(fēng)險的。

公眾有權(quán)利知道AI的潛在風(fēng)險，AI研發(fā)者有義務(wù)確保AI不給人類帶來生存風(fēng)險，這是我們所期待的，風(fēng)險最小化的AI安全協(xié)作機(jī)制。

       原文標(biāo)題 : 新火種AI|警鐘長鳴！教唆自殺，威脅人類，破壞生態(tài)，AI的“反攻”值得深思...