全球網絡安全界的盛會——2023年RSAC大會于當地時間4月24日-27日在美國舊金山召開，大會以“Stronger Together(一起變得更強大)”為主題，議程主要包含安全研討會、沙盒創(chuàng)新大賽、安全技術主題演講等。Coremail聯合創(chuàng)始人、技術副總裁林延中和總架構師陳穎棠出席了此次會議。
RSAC創(chuàng)新沙盒競賽已舉辦18年，是初創(chuàng)公司展示具有改變網絡安全行業(yè)潛力的突破性技術的領先平臺。而今年的創(chuàng)新沙盒大賽競爭依然非常激烈，最終由人工智能應用安全公司HiddenLayer拔得頭籌，獲得了“最具創(chuàng)新創(chuàng)業(yè)公司”的稱號。
可見，AI在安全領域的應用也成為此次大會的熱點議題。在此次大會的開幕式上，RSA 首席執(zhí)行官 Rohit Ghai也重點討論了人工智能給網絡安全帶來的機遇與挑戰(zhàn)。
“每一次新技術浪潮都比以往更大、更快也更具顛覆性，這次也不例外。”
Ghai 強調了人工智能時代已經到來，網絡安全組織必須利用AI的力量。隨著人工智能技術逐漸滲透到網絡安全產品和解決方案中，我們可以期待安全與AI碰撞出更多的火花。但同時，Ghai 也提及了“Good AI”機器人的另一面就是“Bad AI”。
誠然，在攻防對抗中，AI技術既會被安全廠商用于防御，而類似于ChatGPT等人工智能軟件也很有可能成為黑客的攻擊利器，使網絡釣魚更難抵御。那么人工智能對于郵件安全行業(yè)而言，又將會帶來什么改變呢?
Coremail郵件安全人工智能實驗室首席架構師潘慶峰(下文簡稱“大P”)就“當前AI技術對郵件安全的影響”這個話題進行了深度分享。
1、當前AI技術對郵件安全對抗的影響
ChatGPT和GPT-4的出現讓大家驚嘆于當前的深度學習模型已經能夠達到如此高的水平。
大P認為，實際上，ChatGPT完成了兩個任務，那就是語義分析和文本生成任務。
首先，如果把ChatGPT模型比作一個由大量數據訓練而成的高維空間迷宮，通過讀取每一個字符來決定下一步走向，最終我們可以抵達迷宮中的某個位置。
這個位置附近就是最可能的答案空間，從這個位置開始，按照最大可能性路徑一個一個字地生成出答案，就是我們看到的ChatGPT回復。
因此，問題語義分析部分，就是Coremail反垃圾算法進行文本分類的基礎。
大P認為，自然語言處理技術即將進入應用爆發(fā)期，主要會在郵件系統(tǒng)產業(yè)上形成三方面的應用。
第一，用戶級層面上，郵件小助手應用AI自動生成回復或自動擬稿，甚至可以幫助撰寫簡單邏輯程序，由人工進行校驗，提升工作效率。
第二，公司業(yè)務層面上，AI技術可以再讀取大量公司文檔后生成客服系統(tǒng)，與目前機械性的回復相比，后期的答疑質量將會大幅上升。
第三，對于垃圾郵件發(fā)送方而言，AI技術可能會被用來制作大量垃圾文本，形式內容不一但內涵一致，垃圾郵件的收發(fā)量有可能快速上升。
2、AI既是矛，也是盾
ChatGPT常被用作開發(fā)勒索軟件和釣魚郵件開發(fā)，這已經是不可改變的事實，但是大P強調每一項技術都可以用于進攻或防守，不用太過擔心AI的深度學習技術會導致現有的反垃圾識別系統(tǒng)失效。
大P分析了三點原因：首先，生成大量垃圾文本遠比文本分類需要大得多的運算量，普通黑產團伙很難提供這種量級的算力支撐。
其次，考慮到生成文本的可讀性及邏輯性，此類文本必然帶有很多有指向性的詞語，詞性相近文本在高維空間的位置都是相似的，這代表著使用文本分類進行反垃圾不會有太多的變化。
最后，反垃圾算法也不是單純的文本分類問題，還可通過發(fā)信歷史、發(fā)信行為、發(fā)信來源等多種特征協(xié)助判斷。
黑產團伙樂于使用AI生成垃圾文本，那么對于防守方而言，我們同樣可利用深度學習技術動態(tài)生成垃圾郵件內容，用來給反垃圾系統(tǒng)做陪練。
3、Coremail AI技術發(fā)展前生今世
大P還為大家介紹了Coremail AI技術發(fā)展歷程，展示了Coremail在AI的不同發(fā)展時期，利用AI提高了Coremail郵件安全的反垃圾能力。
Coremail自1999年開發(fā)出第一套郵件系統(tǒng)后就開始進行反垃圾技術的相關研究，隨著AI技術的發(fā)展經歷了郵件安全應用的“智能算法萌芽期(2000年前后)”“智能算法發(fā)展期(2010前后)”，迎來了“大規(guī)模應用期(2020年至今)”。
當前，Coremail郵件安全人工智能實驗室(Email Security AI Lab)基于郵件安全大數據中心持續(xù)積累的海量優(yōu)質數據，實現了郵件樣本智能收集、識別、入庫、反饋、自學習訓練并提升算法模型能力的閉環(huán)，不斷優(yōu)化中央引擎、保持反垃圾品質穩(wěn)步提升。
未來，Coremail AI LAB將堅持長期主義，加大對云計算、人工智能、大數據的投入研究，將成果實踐落地至Coremail郵件安全系列產品與服務，運用到實際的業(yè)務場景中，推動郵件安全整體產業(yè)性發(fā)展。
