【ITBEAR】在烏鎮(zhèn)，一場(chǎng)別開生面的較量正在悄然進(jìn)行——國(guó)內(nèi)首屆AI大模型攻防挑戰(zhàn)賽圓滿落幕。
此次挑戰(zhàn)賽自9月份拉開帷幕，便吸引了眾多技術(shù)高手的矚目。2700多個(gè)參賽隊(duì)伍、3200余名技術(shù)精英，他們來自290余所國(guó)內(nèi)外高校及280多個(gè)行業(yè)企業(yè)，共同在這場(chǎng)技術(shù)的盛宴中一展身手。
賽場(chǎng)上，選手們面對(duì)的是一系列經(jīng)過精心設(shè)計(jì)的挑戰(zhàn)。他們需要通過大模型技術(shù)，迅速識(shí)別出那些被AI篡改或合成的音頻、證照及視頻。有的選手憑借超凡的觀察力，能夠一眼看出視頻中人臉動(dòng)作的異常，斷定其為AI合成；有的則通過專業(yè)的音頻分析，捕捉到語音中不自然的細(xì)微變化，從而準(zhǔn)確判斷其由AI生成。
這場(chǎng)挑戰(zhàn)賽不僅是對(duì)技術(shù)能力的考驗(yàn)，更是對(duì)AI安全的一次深度探索。隨著人工智能技術(shù)的廣泛應(yīng)用，大模型帶來的安全風(fēng)險(xiǎn)也日益凸顯。因此，大賽聚焦于大模型自身安全以及生成內(nèi)容的防偽檢測(cè)兩大領(lǐng)域，旨在通過創(chuàng)新的技術(shù)解決方案，為大模型的應(yīng)用安全保駕護(hù)航。
在激烈的角逐中，來自字節(jié)跳動(dòng)、合合信息科技、濟(jì)南大學(xué)、浙江工業(yè)大學(xué)、安徽大學(xué)、上海交通大學(xué)等企業(yè)和高校的賽隊(duì)脫穎而出，榮獲全球十強(qiáng)。他們的出色表現(xiàn)，不僅展示了自身卓越的技術(shù)實(shí)力，更為AI安全技術(shù)的發(fā)展貢獻(xiàn)了新的思路。
賽后，螞蟻集團(tuán)安全實(shí)驗(yàn)室首席科學(xué)家王維強(qiáng)表示：“通過攻防實(shí)戰(zhàn)演練，我們能夠直面大模型應(yīng)用中的安全問題，從而推動(dòng)大模型安全技術(shù)的不斷進(jìn)步。這將有助于我們攜手行業(yè)伙伴，共同邁向更高的安全水平。”
大賽還特別設(shè)置了“杰出方案獎(jiǎng)”和直通offer環(huán)節(jié)，以表彰在算法創(chuàng)新性和資源綠色性方面表現(xiàn)突出的選手。同時(shí)，中國(guó)信通院還在活動(dòng)現(xiàn)場(chǎng)啟動(dòng)了“護(hù)證計(jì)劃”，旨在呼吁共建行業(yè)標(biāo)準(zhǔn)，守護(hù)用戶的身份安全。螞蟻集團(tuán)積極響應(yīng)并加入該計(jì)劃，宣布其推出的憑證可信認(rèn)證平臺(tái)將逐步升級(jí)，未來將成為集智能證照于一體的綜合性平臺(tái)。
來自桐鄉(xiāng)的反詐民警李湘臣也對(duì)此次比賽給予了高度評(píng)價(jià)：“現(xiàn)在的AI詐騙手法越來越隱蔽、多樣。今天的比賽讓我看到了我們?cè)趯?duì)抗AI詐騙的道路上有了更多的智慧和力量。”
