網(wǎng)絡(luò)安全領(lǐng)域近期迎來了一項(xiàng)新的警示，一種被稱作“Slopsquatting”的攻擊手段正逐漸顯露頭角。這種攻擊方式利用了生成式人工智能（AI），如大型語言模型（LLMs）在代碼編寫過程中可能引發(fā)的“包幻覺”現(xiàn)象。所謂的“包幻覺”，指的是AI在推薦軟件包名稱時，有時會生成并不存在的名稱，而這些名稱往往看起來十分逼真。
攻擊者利用這一漏洞，預(yù)先注冊了這些由AI虛構(gòu)的軟件包名稱，并在其中植入了惡意代碼。研究人員指出，這些由AI生成的虛構(gòu)包名具有很高的可信度和重復(fù)性，約有38%的虛構(gòu)包名與真實(shí)存在的包名高度相似，僅有13%的虛構(gòu)包名是通過簡單的拼寫錯誤產(chǎn)生的。這種相似性使得開發(fā)者在未經(jīng)核實(shí)的情況下，很容易直接采用這些包名。
在對16個代碼生成模型進(jìn)行測試后，研究人員發(fā)現(xiàn)，平均有20%的AI推薦軟件包是偽造的。尤其是開源模型，如DeepSeek和WizardCoder，它們的幻覺率高達(dá)21.7%。相比之下，商業(yè)模型如GPT-4Turbo的幻覺率則相對較低，為3.59%。而CodeLlama的表現(xiàn)最為糟糕，超過三分之一的推薦都存在錯誤。這種威脅在Python和Javascript等依賴中央包倉庫的編程生態(tài)系統(tǒng)中尤為突出。
實(shí)驗(yàn)數(shù)據(jù)進(jìn)一步顯示，AI的“包幻覺”現(xiàn)象具有很高的可復(fù)現(xiàn)性。在高達(dá)43%的案例中，相同的幻覺會連續(xù)出現(xiàn)10次，而58%的幻覺會在多次測試中重復(fù)出現(xiàn)。這種高度的可復(fù)現(xiàn)性為攻擊者提供了極大的便利，使他們能夠精準(zhǔn)地布局惡意軟件包。
研究人員認(rèn)為，當(dāng)前AI模型在安全測試方面的不足是導(dǎo)致這一問題的主要原因。盡管目前尚未發(fā)現(xiàn)實(shí)際的Slopsquatting攻擊案例，但該技術(shù)已經(jīng)具備了構(gòu)成現(xiàn)實(shí)威脅的所有要素。因此，研究人員強(qiáng)烈呼吁開發(fā)社區(qū)提高警惕，對AI生成的代碼建議保持審慎態(tài)度，并務(wù)必進(jìn)行驗(yàn)證，以免成為這種新型軟件供應(yīng)鏈攻擊的受害者。
