生成式AI從提升工作效率的神器，竟變成了企業(yè)和網(wǎng)友的心腹大患？

日前安全公司Check Point發(fā)布報(bào)告稱，一款名為“FunkSec”的木馬型勒索病毒從2024年底至今，陸續(xù)攻擊了85家企業(yè)。解析代碼后研究人員發(fā)現(xiàn)該病毒基于Rust編程語言，語法注釋非常流暢，但攻擊模式較為原始落后，判斷該病毒大概率由AI生成。

隨著調(diào)查的深入，研究人員還發(fā)現(xiàn)有黑客在地下論壇售賣FunkSec病毒。這種情況表明，黑客可以利用生成式AI大規(guī)模制造病毒牟利。科技是一把雙刃劍，生成式AI在提高工作效率、生活便利度之外，潛在的風(fēng)險(xiǎn)也逐漸顯露了出來。

生成式AI帶來了新的安全問題

自從OpenAI發(fā)布ChatGPT后，使用生成式AI開發(fā)病毒或生成其他有害內(nèi)容，用于攻擊企業(yè)和個(gè)人計(jì)算機(jī)就已十分常見。安全公司Vipre公布的數(shù)據(jù)顯示，2023年第二季度商務(wù)郵件欺詐攻擊數(shù)量相較2022年增加了20%，其中接近一半由AI生成。

企業(yè)安全威脅研究團(tuán)隊(duì)Imperva Threat Research在報(bào)告中指出，2024年4月到9月，零售網(wǎng)站平均每天要遭受569884次攻擊，ChatGPT、Claude、Gemini等AI工具，常被用于進(jìn)行DDoS（分布式拒絕服務(wù)攻擊）和業(yè)務(wù)邏輯濫用等行動(dòng)。

信息咨詢公司Gartner表示，AI在網(wǎng)絡(luò)攻擊中的應(yīng)用已連續(xù)三個(gè)季度成為企業(yè)面臨的最大風(fēng)險(xiǎn)。在接受該公司訪問的286位高級風(fēng)險(xiǎn)審計(jì)人員中，80%的受訪者對AI可能帶來的網(wǎng)絡(luò)攻擊表示擔(dān)憂。

（圖源：豆包AI生成）

生成式AI之所以能夠成為黑客攻擊企業(yè)或個(gè)人的強(qiáng)力工具，原因不在于其生成的病毒多么強(qiáng)大，而在于生成式AI大幅降低了成為黑客的門檻。

Check Point研究人員透露，售賣FunkSec病毒的黑客們技術(shù)能力并不強(qiáng)，他們甚至在論壇發(fā)帖詢問“如何成為黑客”。這群黑客炫耀的攻擊企業(yè)和數(shù)據(jù)竊取等“佳績”，實(shí)際上來自其他黑客的犯罪行動(dòng)，沒有生成式AI協(xié)助，他們大概率連攻擊方式原始落后的FunkSec都開發(fā)不出來。

2024年10月25日，據(jù)日本《讀賣新聞》報(bào)道，當(dāng)?shù)匾幻�男子因使用生成式AI制造勒索病毒，被判處有期徒刑三年、緩刑四年。該事件也是日本首個(gè)因使用生成式AI制造有害內(nèi)容被刑事處罰的案件。

在庭審過程中，案犯交代自己不懂任何IT知識，若沒有生成式AI則無法制造病毒，并承認(rèn)用生成式AI制造病毒的過程極其簡單。一個(gè)完全不懂IT知識的人，都可以利用生成式AI制造病毒并獲利，可見在生成式AI時(shí)代，黑客的門檻有多么低，人人都擁有成為黑客的能力。

（圖源：豆包AI生成）

更關(guān)鍵的是，日本IT解決方案提供商三井物產(chǎn)Secure Directions的高級惡意軟件分析技術(shù)員吉川孝志直言，生成式AI雖然可以設(shè)置限制，不直接生成有害內(nèi)容，但存在規(guī)避限制的方法，網(wǎng)上可以輕松找到。

另外，還有開發(fā)者開發(fā)出了專用于生成惡意代碼的AI大模型，如WormGPT、PoisonGPT等。在不法分子頻繁利用AI攻擊個(gè)人和企業(yè)，黑客門檻幾乎等同于不存在的今天，企業(yè)和個(gè)人保護(hù)自己的信息安全將成為難題。

只有AI，才能對抗AI攻擊？

抵御生成式AI所制造病毒的攻擊前，首先我們要明白病毒程序攻擊的方式。在《威脅洞察（Threat Insights）》報(bào)告中，惠普公司指出，受害者遭遇攻擊的主要方式為網(wǎng)絡(luò)釣魚電子郵件或惡意廣告，例如在我們搜索某些工具時(shí)，誘導(dǎo)我們進(jìn)入虛假網(wǎng)站，下載包含病毒的文件，某些不法分子甚至將病毒程序隱藏在SVG（可縮放矢量圖形）中。

惠普公司還在報(bào)告中表示，2024年第二季度，有12%帶有有害信息的電子郵件繞過了檢測系統(tǒng)，其中61%來自附件，18%來自瀏覽器下載，21%來自移動(dòng)存儲(chǔ)設(shè)備，而ZIP文件占惡意文件總量的39%。

（圖源：豆包AI生成）

過去常有網(wǎng)友表示，電腦從來不安裝殺毒程序，不去瀏覽非法網(wǎng)站，電腦就不會(huì)中病毒。然而在惡意程序數(shù)量飛速增長，假網(wǎng)站無處不在的今天，用戶中招的概率也將大幅提升。對抗生成式AI批量制造病毒程序的關(guān)鍵，就在于合理利用AI。

從病毒的攻擊方式來看，將AI融入殺毒軟件、瀏覽器、搜索引擎，或許能夠幫助個(gè)人用戶構(gòu)建更堅(jiān)實(shí)的防火墻。殺毒軟件加入AI功能后，可以智能對文件進(jìn)行掃描分析，結(jié)合生成式AI編程的特性，提高病毒的識別能力，從而攔截含有病毒的文件。

瀏覽器的責(zé)任同樣重大，與AI融合后，要盡量做到幫助用戶分析網(wǎng)址的風(fēng)險(xiǎn)，并對網(wǎng)站內(nèi)的各類文件，包括SVG圖像進(jìn)行檢測，從源頭減少用戶下載到含有病毒文件的可能性。我們搜索一些東西時(shí)，經(jīng)常會(huì)彈出許多廣告內(nèi)容和虛假網(wǎng)站，對用戶的上網(wǎng)體驗(yàn)造成了不利影響，增加了用戶被病毒攻擊的風(fēng)險(xiǎn)。搜索引擎同樣需要利用AI技術(shù)，排除虛假網(wǎng)站。

（圖源：豆包AI生成）

相較于個(gè)人，企業(yè)面臨的風(fēng)險(xiǎn)更大，也是不法分子植入病毒和勒索的主要對象。因而企業(yè)不但要增強(qiáng)安全軟件的能力，利用AI識別和抵御生成式AI制造的病毒程序，還要對網(wǎng)絡(luò)隔離和訪問控制，必要時(shí)對備份數(shù)據(jù)和機(jī)密數(shù)據(jù)進(jìn)行物理隔離。同時(shí)，企業(yè)也要及時(shí)對員工進(jìn)行培訓(xùn)，避免因員工的錯(cuò)誤操作將病毒引入公司內(nèi)部，而造成財(cái)產(chǎn)損失。

自從1982年世界上第一個(gè)真正意義上的計(jì)算機(jī)病毒Elk Cloner誕生以來，近半個(gè)世紀(jì)的時(shí)間中，互聯(lián)網(wǎng)公司與黑客之間的對決就從未停止過。21世紀(jì)初中國互聯(lián)網(wǎng)飛速發(fā)展之時(shí)，也出現(xiàn)過影響巨大的熊貓燒香事件，前幾年的勒索病毒肆虐，更令無數(shù)用戶和企業(yè)遭殃。

利用生成式AI制造病毒，是AI時(shí)代黑客們新的攻擊手段。網(wǎng)絡(luò)安全公司也將以AI對抗AI，利用AI識別病毒的代碼特征加以攔截，保護(hù)用戶的上網(wǎng)安全。

防御AI攻擊，不能只靠技術(shù)

利用生成式AI制造病毒和防御病毒攻擊，本身都會(huì)消耗大量資源，可能會(huì)拖累企業(yè)的正常發(fā)展。生成式AI大幅降低了制造病毒的門檻，導(dǎo)致普通人也可以生成病毒，未來病毒、虛假網(wǎng)站等可能會(huì)指數(shù)級上升，導(dǎo)致病毒隨處可見，對于整個(gè)互聯(lián)網(wǎng)行業(yè)的發(fā)展也絕非好事。

普通網(wǎng)民可利用AI幫忙規(guī)避部分潛在的風(fēng)險(xiǎn)，例如需要查詢一些信息時(shí)，可以直接向AI大模型提問，并通過AI大模型提供的鏈接進(jìn)入相應(yīng)的網(wǎng)址，若要下載一些軟件，也可以讓向AI索要官網(wǎng)網(wǎng)址。經(jīng)過AI篩選的內(nèi)容，安全性更有保障。

（圖源：豆包AI生成）

國內(nèi)互聯(lián)網(wǎng)的安全程度比較高，盡管也有不少下載站、虛假網(wǎng)站等，但大多可以輕松識別，而且360、騰訊電腦管家等主流殺毒軟件，還會(huì)提供軟件下載渠道，可幫助用戶規(guī)避一定的風(fēng)險(xiǎn)。

企業(yè)方面情況更為復(fù)雜，但網(wǎng)絡(luò)保護(hù)措施也更加健全，考慮到勒索病毒肆虐期不少企業(yè)中招，這些企業(yè)也需要招募更多人才或與網(wǎng)絡(luò)安全公司加深合作，以應(yīng)對AI時(shí)代的病毒攻擊。

不過僅依靠AI抵御病毒攻擊能夠起到的效果有限，百密終有一疏，防賊千日和作賊千日付出的資源不對等。唯有出臺更嚴(yán)格、更詳細(xì)的規(guī)定，限制和打擊利用生成式AI制造病毒的不法分子，方能徹底消滅黑客群體。

相關(guān)部門已在不遺余力打擊利用網(wǎng)絡(luò)犯罪的不法分子，公安部網(wǎng)安局公布的數(shù)據(jù)顯示，2024年全力推進(jìn)打擊網(wǎng)絡(luò)黑客犯罪專項(xiàng)工作，偵破案件1600余起，抓獲犯罪嫌疑人4900余名。在相關(guān)部門的打擊下，國內(nèi)黑客的生存空間只會(huì)越來越小，我們的上網(wǎng)安全也將更有保障。

 來源：雷科技

       原文標(biāo)題 : AI生成病毒曝光！黑客零門檻時(shí)代，只有AI才能對抗AI攻擊？