今年上半年大模型產(chǎn)品和概念火出圈，也引發(fā)了一系列問題和擔(dān)憂。
10月19日，在2023第六屆SSC網(wǎng)絡(luò)安全大會上，西安電子科技大學(xué)教授王皓表示：“大模型迅速發(fā)展所暴露出的安全問題，在做好監(jiān)管亟的同時(shí)，要加強(qiáng)對于網(wǎng)絡(luò)安全人才的培養(yǎng)”。
王皓在第六屆SSC網(wǎng)絡(luò)安全大會以“大模型時(shí)代的數(shù)字安全法治人才培養(yǎng)初探討”為題演講
2022年底chatGPT的爆發(fā)，帶來了巨大的技術(shù)變革，在國內(nèi)外引起了廣泛討論以及關(guān)注，國際上各類通用大模型迅速相繼涌現(xiàn)。發(fā)展至今通用大模型已經(jīng)突破自然語言屏障，升華為多模態(tài)的生成式人工智能工具。能夠真正像人類一樣來聊天、交流，完成撰寫郵件、文案、代碼、論文等復(fù)雜任務(wù)。目前，國內(nèi)外眾多網(wǎng)絡(luò)科技公司紛紛推出了自己的通用大模型，如華為的盤古系統(tǒng)，訊飛的星火系列以及百度的文心一言。
大模型由于發(fā)展時(shí)間短，信息保護(hù)比較脆弱，容易導(dǎo)致信息泄露。此外，別有用心的群體或個(gè)人設(shè)計(jì)了“邪惡大模型”，通過創(chuàng)建破解工具、釣魚郵件、甚至惡意的攻擊軟件，進(jìn)行一些危害個(gè)人或者社會的事情。”王皓說道。
目前，全球范圍都已意識到大模型迅速發(fā)展所暴露出的問題。我國上半年出臺了《生成式人工智能服務(wù)管理暫行辦法》，歐洲、美國也頒布了一些初級的協(xié)議、權(quán)力法案，開始加強(qiáng)對大模型的約束。
除了通過立法加強(qiáng)AI監(jiān)管、通過技術(shù)進(jìn)步不斷完善大模型外，我們也要加強(qiáng)對于網(wǎng)絡(luò)安全人才的培養(yǎng)。王皓表示，“西安電子科技大學(xué)通過構(gòu)建‘安全人才’培養(yǎng)與‘人才安全’培育雙促進(jìn)、雙保障格局，加強(qiáng)信息安全學(xué)科建設(shè)、加快信息安全人才培養(yǎng)”。
