AI圖片以假亂真，現(xiàn)在新聞也不能信了？

在業(yè)內(nèi)享有“盛譽(yù)”的洋蔥新聞，以造謠和編造新聞著稱，只不過還是人在編造。但如果是AI來造假新聞，甚至還創(chuàng)建了網(wǎng)站呢？

最近，一個名為NewsGuard的新聞評級組織發(fā)布了一項調(diào)查報告。報告里面著重強(qiáng)調(diào)了，現(xiàn)在互聯(lián)網(wǎng)上有大量特別的假新聞網(wǎng)站。這些網(wǎng)站上幾乎全是由AI生成的假新聞，數(shù)量多達(dá)49家。

被曝光以后，彭博社開始對這些網(wǎng)站進(jìn)行調(diào)查，結(jié)果大跌眼鏡。這些網(wǎng)站上的假新聞毫無根據(jù)，除了一些人物名字是真的，其他全是假的。并且這些網(wǎng)站涉足的領(lǐng)域還很多，什么類型的新聞都能編。

假網(wǎng)站包羅萬象，假新聞五花八門

有像“News Live 79”和“Daily Business Post ”這樣假裝自己是即時新聞類網(wǎng)站的；有的是以生活指南、名人軼事類為主題的網(wǎng)站；還有的就是專門發(fā)廣告的網(wǎng)站。但無一例外，他們都沒有聲明自己用的是ChatGPT還是Bard（巴德）。

在這些假新聞網(wǎng)站里，一個名為CelebritiesDeaths．com的網(wǎng)站在4月份發(fā)布了“拜登逝世，哈里斯任代理總統(tǒng)”的假消息。另一個網(wǎng)站為一位建筑師制作了一份假訃告，AI捏造了關(guān)于他的生活和工作的細(xì)節(jié)。此外，還有一個名為TNewsNetwork的網(wǎng)站， 僅根據(jù) YouTube上的一則視頻，就編造了一篇俄烏戰(zhàn)爭中數(shù)千名俄軍死亡的報道，但完全沒有經(jīng)過證實。

還有一個網(wǎng)站上有一則標(biāo)題為“餃子帝國創(chuàng)始人去世”的假新聞。新聞里說有一位 96 歲的老人創(chuàng)立了一家全球餃子連鎖店，但從頭到尾都沒提到這位老人叫什么。更有意思的是，這篇文章發(fā)表于2月26日，而新聞里說創(chuàng)始人于3月26日去世。不知道是AI會穿越，還是記者能預(yù)測未來。

最離譜的還不是假新聞本身，而是這類訊息是有受眾的，并且還不少。

據(jù)NewsGuard的報告，有一些網(wǎng)站注冊了Facebook等社交媒體賬號，更新這些假新聞。其中一個主要編名人生平故事的網(wǎng)站ScoopEarth．com，竟然有12萬4000多的粉絲！

此外，NewsGuard還對這些網(wǎng)站的真實目的進(jìn)行了探究。有一些網(wǎng)站每天發(fā)布數(shù)百篇內(nèi)容，其中基本上全都是廣告，用到的語言主要以英語、葡萄牙語、菲律賓塔加祿語、泰語等。少數(shù)網(wǎng)站還會對文章刊登進(jìn)行收費，幫“客戶”提高搜索排名。有半數(shù)以上的網(wǎng)站通過算法自動買賣廣告位來賺錢。

后來，NewsGuard聯(lián)系到了這些媒體當(dāng)中的幾家，他們都不承認(rèn)自己用了AI來生成這些假內(nèi)容。然而經(jīng)過實際測試，很快這些網(wǎng)站就露了馬腳。

通常在與ChatGPT交流時，因為訓(xùn)練數(shù)據(jù)覆蓋不全，AI會回復(fù)一些錯誤提示。比如“我的截止日期是2021年9月”、“作為AI語言模型”或“我無法完成這個提示”等。而在這些網(wǎng)站里也發(fā)現(xiàn)了這些錯誤提示。

一個名為CountyLocalNews．com的網(wǎng)站刊登了這樣的標(biāo)題：“死亡新聞：對不起，我不能履行這個提示，因為它違背了倫理和道德原則。疫苗種族滅絕是一種沒有科學(xué)證據(jù)的陰謀論，可能對公眾健康造成傷害和損害。作為AI語言模型，我有責(zé)任提供真實和可靠的信息”。

這不就露餡了嗎？

OpenAI和谷歌躺著也中槍

NewsGuard 聯(lián)合首席執(zhí)行官戈登·克羅維茨表示，OpenAI與谷歌等提供生成式AI服務(wù)的公司應(yīng)該小心訓(xùn)練他們的模型，不能將之用于捏造新聞。曾任《華爾街日報》發(fā)行人的他說：“使用已知會虛構(gòu)事實的AI模型去制作那些內(nèi)容，是新聞業(yè)內(nèi)的詐欺行為。”

至于多方都在警告和勸解的兩大AI巨頭，OpenAI沒有立刻表示回應(yīng)，但他們之前曾表示，會結(jié)合人工與自動化系統(tǒng)來識別系統(tǒng)遭濫用的事件，并發(fā)出警告甚至禁止使用。

谷歌發(fā)言人邁克爾阿西曼表示，谷歌重視內(nèi)容品質(zhì)，不允許廣告刊登在有害內(nèi)容、垃圾文章或明顯從其他網(wǎng)站復(fù)制的文章旁邊。谷歌表示，在接到彭博社聯(lián)系后，已從其中部分網(wǎng)站正面移除谷歌廣告。谷歌強(qiáng)調(diào)，使用AI產(chǎn)生的內(nèi)容，不一定會違反該公司政策，但若利用AI來操控搜索順序，即違反該公司有關(guān)垃圾內(nèi)容的政策，會定期監(jiān)控其廣告生態(tài)系統(tǒng)中的濫用趨勢，并相應(yīng)調(diào)整其政策和法規(guī)。

本特利大學(xué)數(shù)據(jù)科學(xué)和數(shù)學(xué)副教授吉安西拉庫薩說，用AI創(chuàng)作低質(zhì)量的內(nèi)容并不是什么新鮮事，但它開始變得更容易、更快速和更廉價。隨著越來越多的工作室和媒體開始采用AI來進(jìn)行自動化流程，一個質(zhì)量較低的在線信息系統(tǒng)正在構(gòu)建。

相關(guān)專家也告訴NewsGuard，對新聞機(jī)構(gòu)由生成式AI管理的擔(dān)憂已經(jīng)成為現(xiàn)實。更糟糕的是，這些網(wǎng)站將成為未來人工智能的素材來源，這使得打破新聞循環(huán)變得更加困難。

治疾未篤，除患未深

各類大模型日漸成熟，AIGC正在成為下一個風(fēng)口，也是隱患蟄伏的據(jù)點。全球都在謀求讓AI在監(jiān)管中發(fā)展，白宮前幾天剛剛把谷歌、OpenAI和微軟的CEO叫過去“喝茶”，也是在商討如何讓AI可以正向發(fā)展。

就我國來說，今年1月《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》頒布實施；4月，國家網(wǎng)信辦起草《生成式人工智能服務(wù)管理辦法（征求意見稿）》。抖音也剛剛發(fā)表AIGC 平臺規(guī)范，要對AI生成內(nèi)容進(jìn)行標(biāo)注。

而AI研究領(lǐng)域，也早已開始就AI生成內(nèi)容的識別和處理進(jìn)行研究，并總結(jié)出了假新聞的特征集，有了數(shù)據(jù)方面、模型特征方面、模型方面等研究方向。

治疾及其未篤，除患及其未深。

一切都還來得及。