文章概要:
1. Steg.AI 開發(fā)了一種基于深度學(xué)習(xí)的水印方案，可以將幾乎不可察覺(jué)的水印嵌入數(shù)字內(nèi)容中，并且即使圖像被修改、壓縮或篡改，水印仍然保持完整。
2. 大型科技公司如 Microsoft 和 Meta 也在努力開發(fā)水印技術(shù)，但 Steg.AI 的方法更為先進(jìn)，可以在圖像生成過(guò)程中無(wú)縫地嵌入水印，增強(qiáng)安全性和計(jì)算效率。
3. 政府對(duì)人工智能技術(shù)的監(jiān)管需求日益增加，水印技術(shù)可以用于驗(yàn)證 AI 生成的內(nèi)容的真實(shí)性，防止深度偽造和虛假信息的傳播。
（ChinaZ.com）8月3日 消息:2023年5月，全球震驚于五角大樓冒煙的圖片。許多新聞?lì)l道根據(jù)這些圖片報(bào)道事件，甚至股市也做出了短暫的反應(yīng)。然而后來(lái)證明，這是一張?zhí)摷俚挠扇斯ぶ悄苌傻膱D片。
這樣的事例凸顯了在各種情況下識(shí)別由人工智能生成的內(nèi)容的挑戰(zhàn)。也重新引發(fā)了關(guān)于深度偽造和虛假圖片的更大討論 —— 這是由于生成式人工智能工具和它們根據(jù)提示產(chǎn)生超逼真圖片的能力所加劇的。
所有這些都導(dǎo)致全球各國(guó)政府爭(zhēng)相尋找解決方案和安全監(jiān)管人工智能的方法。知名的人工智能公司，包括亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 等，已自愿承諾采取措施，如為人工智能生成的內(nèi)容加水印，以增強(qiáng)其安全性，但尚未取得任何實(shí)質(zhì)性進(jìn)展。
當(dāng)前的方法，如將數(shù)據(jù)編碼到圖像或音頻中，很容易被繞過(guò)。需要一種穩(wěn)健、隱形的水印技術(shù)，易于應(yīng)用和檢測(cè)，同時(shí)抵抗各種變換。研究表明，人類很難區(qū)分人工智能生成的內(nèi)容和人類生成的內(nèi)容。由于在線知識(shí)產(chǎn)權(quán)盜竊猖獗，證明內(nèi)容創(chuàng)作來(lái)源的能力日益重要。
與此同時(shí)，總部位于加利福尼亞的平臺(tái) Steg.AI 已經(jīng)開發(fā)出一種基于深度學(xué)習(xí)的解決方案，可以將幾乎不可察覺(jué)的水印嵌入數(shù)字內(nèi)容中。即使這些圖片經(jīng)過(guò)修改、壓縮或操縱，Steg.AI 的水印仍然完整。這種水印具有非常強(qiáng)大的韌性，甚至可以在 iPhone 相機(jī)上捕捉到屏幕上顯示或打印出的水印。
官網(wǎng)地址:https://steg.ai/
Steg.AI 的水印技術(shù)在股票攝影服務(wù)、社交媒體平臺(tái)上的內(nèi)容分享、電影的預(yù)發(fā)行副本和保護(hù)機(jī)密文件等各種場(chǎng)景中都有應(yīng)用。早期版本的產(chǎn)品面臨挑戰(zhàn)，導(dǎo)致公司轉(zhuǎn)變重點(diǎn)關(guān)注韌性，這一突出特點(diǎn)與客戶產(chǎn)生共鳴。
Steg.AI 的核心概念是在分發(fā)之前將水印無(wú)縫地整合到人工智能生成的圖片中。雖然具體的過(guò)程保密，但基本思想圍繞著一對(duì)機(jī)器學(xué)習(xí)模型。一個(gè)模型負(fù)責(zé)定制水印在圖片中的位置，確保對(duì)人眼來(lái)說(shuō)不可察覺(jué)，但仍然可以被解碼算法檢測(cè)到。
類似于一個(gè)幾乎不可見(jiàn)且不可更改的 QR 碼，這種方法潛在地可以容納千字節(jié)的數(shù)據(jù)，足以存儲(chǔ) URL、哈希值和純文本信息。每一頁(yè)多頁(yè)文檔或視頻幀都可以隱藏不同的代碼，從而呈指數(shù)級(jí)增加容量。
該公司的大量工作可以追溯到2019年的 CVPR 論文，以及獲得的第一和第二階段 SBIR 政府撥款。創(chuàng)始人 Eric Wengrowski 和 Kristin Dana 曾參與學(xué)術(shù)研究，他們致力于多年來(lái)改進(jìn)他們的方法。
Steg.AI 的進(jìn)展得到了 NSF 撥款和天使投資的支持，總額達(dá)120萬(wàn)美元。最近，該公司宣布取得重要里程碑，完成了500萬(wàn)美元的種子輪融資，由 Paladin Capital Group 領(lǐng)投，華盛頓廣場(chǎng)天使投資、NYU 創(chuàng)新風(fēng)投基金和個(gè)人天使投資者參與。
大型科技公司已經(jīng)采取措施將水印技術(shù)應(yīng)用到他們的內(nèi)容中。微軟在其年度 Build 會(huì)議上宣布，正在為 Bing 圖像創(chuàng)建和設(shè)計(jì)師增加新的媒體出處功能，使用戶能夠驗(yàn)證人工智能生成的圖像和視頻。這項(xiàng)創(chuàng)新采用加密方法，在內(nèi)容上標(biāo)記和簽署元數(shù)據(jù)以指示其來(lái)源。為此，網(wǎng)站必須采用與 Adobe、Arm、Intel、微軟和 Truepic 共同開發(fā)的聯(lián)合內(nèi)容出處和真實(shí)性（C2PA）規(guī)范。
然而，微軟的努力的影響取決于更廣泛的媒體出處標(biāo)準(zhǔn)的采用，得到了 Stability AI 和谷歌等公司的支持，他們也在探索類似的方法。Shutterstock 和 Midjourney 已采用指導(dǎo)方針，嵌入標(biāo)記表示生成式人工智能創(chuàng)建的內(nèi)容。
另一方面，Meta AI、Centre Inria de l’Universite de Rennes 和 Sorbonne 大學(xué)進(jìn)行的合作研究已經(jīng)開發(fā)出一種創(chuàng)新技術(shù)，可以在圖像生成過(guò)程中無(wú)縫地加入水印，同時(shí)保留架構(gòu)的完整性。這種方法修改了預(yù)訓(xùn)練的生成模型，以有效地將水印整合到生成的圖像中，增強(qiáng)安全性和計(jì)算效率。這項(xiàng)技術(shù)使模型提供商能夠?yàn)椴煌挠脩羧后w分發(fā)帶有不同水印的模型版本，以便監(jiān)控道德使用。
這種技術(shù)對(duì)于媒體機(jī)構(gòu)來(lái)說(shuō)是寶貴的，可以識(shí)別計(jì)算機(jī)生成的圖像。研究人員利用潛在擴(kuò)散模型（LDM）成功地將水印與生成模型進(jìn)行了最少的調(diào)整。該過(guò)程涉及使用感知圖像損失和一個(gè)名為 HiDDeN 的簡(jiǎn)化深度水印方法的隱藏信息損失來(lái)對(duì) LDM 解碼器進(jìn)行微調(diào)。這種技術(shù)在圖像編輯任務(wù)中表現(xiàn)出很強(qiáng)的性能，即使是對(duì)于嚴(yán)重裁剪的圖像，也能保持原始模型在各種基于 LDM 的任務(wù)中的效用。
上個(gè)月，這七家大型科技公司的舉動(dòng)支持了拜登政府對(duì)繁榮和受歡迎的人工智能技術(shù)進(jìn)行監(jiān)管的推動(dòng)。美國(guó)國(guó)會(huì)還在審議一項(xiàng)法案，要求在創(chuàng)建政治廣告時(shí)披露人工智能的參與情況。
