(ChinaZ.com) 10 月 26 日消息:隨著人工智能（AI）技術(shù)的快速發(fā)展，其訓(xùn)練數(shù)據(jù)的獲取和使用變得日益重要，但也出現(xiàn)了濫用現(xiàn)象。為了抵御這種濫用，一款名為「Nightshade」的新工具應(yīng)運而生，為創(chuàng)作者提供了一種保護他們創(chuàng)意作品不被無授權(quán)用于 AI 模型訓(xùn)練的方法。
Nightshade 工具使得用戶能夠?qū)⑵涓郊拥剿麄兊膭?chuàng)意作品上，從而在使用該作品進行訓(xùn)練時「毒化」AI 模型的數(shù)據(jù)。通過對數(shù)字藝術(shù)作品的像素進行不可見的修改，Nightshade 能夠在作品被 AI 模型訓(xùn)練時利用安全漏洞對模型造成混淆。例如，它可以讓模型無法識別汽車圖像，反而識別為牛的圖像。最終，這種毒化數(shù)據(jù)可以破壞諸如 DALL-E、Stable Diffusion 和 Midjourney 等 AI 藝術(shù)平臺的未來模型，剝奪其生成圖像的能力。
《麻省理工學(xué)院科技評論》報告稱，芝加哥大學(xué)教授兼 Nightshade 的創(chuàng)建者之一 Ben Zhao 希望通過這款工具，改變目前 AI 公司借助侵權(quán)數(shù)據(jù)訓(xùn)練模型的現(xiàn)狀。Nightshade 的研究論文指出，文本至圖像的 AI 模型很容易受到這種攻擊的影響。
創(chuàng)作者可通過上傳他們的作品到 Nightshade 創(chuàng)建者開發(fā)的另一款工具 Glaze 中，保護其藝術(shù)風(fēng)格不被模仿。例如，Glaze 可以將通常的現(xiàn)實主義繪圖轉(zhuǎn)變?yōu)榱Ⅲw主義風(fēng)格。未來，Nightshade 將被集成到 Glaze 中，讓用戶選擇是否使用「毒丸」，或滿足于模型無法模仿他們的藝術(shù)風(fēng)格。
Nightshade 的創(chuàng)建者在論文中提議，應(yīng)將 Nightshade 及類似工具作為保護創(chuàng)作者免受不遵守退出規(guī)則的網(wǎng)絡(luò)爬蟲侵害的「最后防線」。
目前，圍繞 AI 生成內(nèi)容和訓(xùn)練數(shù)據(jù)的版權(quán)問題在缺乏相關(guān)法規(guī)的情況下仍然是一個灰色地帶。許多與版權(quán)侵權(quán)戰(zhàn)斗的訴訟仍在法庭上進行。同時，防止網(wǎng)絡(luò)爬蟲未經(jīng)許可獲取數(shù)據(jù)的方法也受到了限制。Adobe 公司計劃使用標記來標識是否為 AI 生成的內(nèi)容，同時顯示圖像的所有者。
最初針對生成性 AI 平臺的一些訴訟集中在版權(quán)材料被無授權(quán)用于模型訓(xùn)練上，特別是在文本至圖像平臺方面。今年 1 月，三名藝術(shù)家分別起訴了 Stable Diffusion、Midjourney 和藝術(shù)網(wǎng)站 DeviantArt，聲稱其模型未經(jīng)許可使用了他們的藝術(shù)作品。Getty Images 也在構(gòu)建自己的基于許可圖像訓(xùn)練的 AI 圖像生成器之前，對 Stable Diffusion 提起了訴訟。
谷歌和微軟表示，如果客戶在使用他們的生成性 AI 產(chǎn)品時因侵犯版權(quán)而被起訴，他們愿意承擔(dān)法律責(zé)任。然而，大多數(shù)這些產(chǎn)品都是基于文本的。
