根據(jù)行業(yè)媒體的報(bào)道，由于擔(dān)心ChatGPT這款強(qiáng)大的聊天機(jī)器人可能被用于犯罪活動(dòng)，OpenAI對(duì)一些國(guó)家和地區(qū)的應(yīng)用進(jìn)行了限制。但研究發(fā)現(xiàn)，來(lái)自俄羅斯的一些網(wǎng)絡(luò)犯罪分子為了采用ChatGPT，一直在試圖尋找新的方法來(lái)繞過(guò)現(xiàn)有的限制措施，并發(fā)現(xiàn)了包括繞過(guò)IP、支付卡和電話號(hào)碼限制措施的案例。
研究人員在黑客論壇上發(fā)現(xiàn)俄羅斯黑客試圖繞過(guò)限制以訪問(wèn)ChatGPT的
自從2022年11月推出以來(lái)，ChatGPT已經(jīng)成為開(kāi)發(fā)人員、作家和學(xué)生的重要工作流程工具，但也成為了能夠被網(wǎng)絡(luò)犯罪分子利用的有力武器，有證據(jù)表明黑客使用它來(lái)編寫(xiě)惡意代碼和改進(jìn)釣魚(yú)電子郵件。
ChatGPT可能被用于惡意目的，這意味著OpenAI需要限制該工具的部署方式，因?yàn)楹诳筒捎肅hatGPT能夠更快地實(shí)施惡意攻擊。OpenAI為此采用地理位置屏蔽措施，以阻止俄羅斯用戶訪問(wèn)該系統(tǒng)。
但是，Check Point Software研究人員在地下黑客論壇上發(fā)現(xiàn)了多個(gè)來(lái)自俄羅斯的黑客談?wù)撊绾我?guī)避這些限制的案例。例如，來(lái)自俄羅斯的一個(gè)黑客團(tuán)伙在論壇上提出了一個(gè)問(wèn)題——如果他們無(wú)法正常進(jìn)入ChatGPT，如何使用被盜的支付卡支付OpenAI賬戶，并使用API訪問(wèn)系統(tǒng)？該系統(tǒng)目前是一個(gè)免費(fèi)使用的預(yù)覽版，而API包括文本和代碼生成會(huì)話期間使用代幣支付費(fèi)用。
Check Point威脅情報(bào)部門(mén)經(jīng)理Sergey Shykevich表示，繞過(guò)OpenAI的限制措施并不是特別困難，“我們現(xiàn)在看到俄羅斯的一些黑客已經(jīng)在討論和檢查如何越過(guò)地理圍欄，并將ChatGPT用于他們的惡意目的。我們認(rèn)為這些黑客很可能試圖在他們的網(wǎng)絡(luò)犯罪活動(dòng)中測(cè)試和采用ChatGPT。網(wǎng)絡(luò)犯罪分子對(duì)ChatGPT越來(lái)越感興趣，因?yàn)樗澈蟮娜斯ぶ悄芗夹g(shù)可以讓他們的網(wǎng)絡(luò)攻擊更加高效。”
這些地下黑客論壇還提供了一些俄語(yǔ)教程，提供半合法的在線短信服務(wù)，以及如何使用它們注冊(cè)ChatGPT，使得看起來(lái)是在沒(méi)有被屏蔽的其他國(guó)家使用ChatGPT。
黑客從這些論壇上得知，他們只需要支付2美分購(gòu)買(mǎi)一個(gè)虛擬號(hào)碼，然后用這個(gè)號(hào)碼從OpenAI獲取代碼。這些臨時(shí)的電話號(hào)碼可以來(lái)自世界上任何地方，也可以根據(jù)需要生成新號(hào)碼。
Infostealer和ChatGPT的惡意使用
在此之前的調(diào)查發(fā)現(xiàn)了網(wǎng)絡(luò)犯罪分子在這些黑客論壇上發(fā)布如何利用ChatGPT進(jìn)行非法活動(dòng)的例子。這其中包括創(chuàng)建很簡(jiǎn)單的Infostealer。隨著人工智能工具的廣泛使用，這些Infostealer將會(huì)變得更加先進(jìn)。
Infostealer是采用這些“簡(jiǎn)單工具”的一個(gè)例子，它出現(xiàn)在一個(gè)黑客論壇上的一篇名為“ChatGPT——惡意軟件的好處”的帖子上。發(fā)布這個(gè)帖子的作者指出，黑客可以使用ChatGPT，通過(guò)向人工智能工具輸入描述和報(bào)告來(lái)重新創(chuàng)建惡意軟件，然后共享基于Python/ target=_blank class=infotextkey>Python的竊取代碼，該代碼可以搜索常見(jiàn)的文件類(lèi)型，將它們復(fù)制到隨機(jī)文件夾，并將它們上傳到硬編碼的FTP服務(wù)器。
Shykevich說(shuō)。“網(wǎng)絡(luò)罪犯分子發(fā)現(xiàn)ChatGPT很有吸引力。在最近幾周，我們發(fā)現(xiàn)了黑客開(kāi)始使用ChatGPT編寫(xiě)惡意代碼的證據(jù)。ChatGPT有可能為黑客提供一個(gè)良好的起點(diǎn)從而加快網(wǎng)絡(luò)攻擊的進(jìn)程。正如ChatGPT可以用于幫助開(kāi)發(fā)人員編寫(xiě)代碼一樣，它也可以用于惡意目的。”
OpenAI表示，已經(jīng)采取措施限制ChatGPT的使用，包括限制可以發(fā)出的請(qǐng)求類(lèi)型，但有些請(qǐng)求可能會(huì)被遺漏。也有證據(jù)表明，其提示被用來(lái)“欺騙”ChatGPT，以研究為幌子或作為虛構(gòu)的示例，可以提供可能有害的代碼示例。
ChatGPT和潛在的錯(cuò)誤信息
與此同時(shí)，OpenAI正在與喬治敦大學(xué)安全和新興技術(shù)中心以及斯坦福互聯(lián)網(wǎng)天文臺(tái)合作，研究大型語(yǔ)言模型(例如ChatGPT的基礎(chǔ)GPT-3)可能被用來(lái)傳播虛假信息的方式。
這種模型可用于降低運(yùn)營(yíng)影響力行動(dòng)的成本，使其處于新型網(wǎng)絡(luò)犯罪分子的可控范圍內(nèi)，而以前只有大型參與者才能訪問(wèn)這類(lèi)內(nèi)容。同樣，能夠自動(dòng)制作文本的招聘人員可能會(huì)獲得新的競(jìng)爭(zhēng)優(yōu)勢(shì)。
黑客利用ChatGPT還會(huì)導(dǎo)致不同的行為，加大網(wǎng)絡(luò)攻擊規(guī)模，并且與人工創(chuàng)建相比允許創(chuàng)建更多的個(gè)性化和針對(duì)性內(nèi)容。最后，他們發(fā)現(xiàn)文本生成工具能夠生成更有影響力和更有說(shuō)服力的信息，相比之下，大多數(shù)人工生成的宣傳文檔通常是黑客可能缺乏目標(biāo)所需的語(yǔ)言或文化知識(shí)。
OpenAI的研究人員宣稱：“我們的基本判斷是，語(yǔ)言模型對(duì)品牌的宣傳者很有用，并可能改變?cè)诰€影響力的運(yùn)營(yíng)。即使最先進(jìn)的模型是加密的，或者通過(guò)應(yīng)用程序編程接口(API)訪問(wèn)來(lái)控制，宣傳者也可能會(huì)傾向于采用開(kāi)源的替代方案。”
