人工智能 (AI) 技術已有數十年的歷史，推動著從機器人到預測分析等方方面面的創新。兩年前，伴隨著 ChatGPT 的橫空出世，生成式人工智能 (GenAI) 成為了 AI 發展史上的一個里程碑式轉折點。ChatGPT 被設計用于以近乎人類的水平進行對話、創作和理解。得益于這一變革性功能，AI 走出技術領域，進入日常生活，以前所未有的方式推動著先進技術的廣泛普及。
ChatGPT 于 2022 年底推出，在短短 5 天內迅速走紅，用戶數量達到了 100 萬。2024 年，ChatGPT 的活躍用戶數量驟增至 2 億，成為歷史上增長速度最快的應用之一。 憑借實時生成上下文相關的連貫回答的能力，ChatGPT 讓 AI 成為了一個家喻戶曉的名詞。這兩年以來，人類仿佛又迎來了一次技術革命，全球各個行業都在AI應用中看到了無限可能。
在十一月烏鎮舉辦的2024年世界互聯網大會上，人工智能成為展示重點，涵蓋低空經濟、智能網聯汽車、人形機器人、數字文創等熱點，40余個大模型及垂直模型、10余個機器人集中亮相。今年十月，我國一位兒童用戶通過視頻展示了兩個AI就“愚公是否應該移山”這一主題展開辯論，這兩個應用占線的嚴密邏輯以及“類人化”的表達方式在短短幾天就收獲了數十萬觀看與數萬條評論。可以看出，在短短兩年時間內，各個AI應用已經開始“飛入尋常百姓家”。
然而，在ChatGPT 及其他類似工具應用于各行各業、為專業人士和個人的工作和生活賦能的同時，此類工具的“兩面性”也日益凸顯。
ChatGPT 的崛起：助力各行各業創新
從客戶服務到內容創建，AI應用已迅速成為個人和企業必不可少的生產工具。雖然想要達到人類頂級人才的水平仍有待時日，但大型語言模型 (LLM) 通常都能夠根據需求提供不錯的解決方案，可讓專業人士專注于創造性、分析性和戰略性任務。GenAI 的即時性和可擴展性促進了范式轉變，即“AI 無處不在”不再只是一種趨勢，而是實實在在的現實。
GenAI 工具為各行各業提供了支持，它可通過回答 StackOverflow 等平臺上的技術問題，幫助快速解決問題，并加快項目進度，將為期一周的任務縮短至數小時。ChatGPT 等 GenAI 工具還通過創新性地應用語言模型來破譯功能和理解復雜代碼，將其功能擴展到了逆向工程。
在網絡安全領域， GenAI 已經產生了深遠的影響。例如，ChatGPT 能夠分析龐大的數據集，以檢測異常和模式，從而幫助用戶發現以前可能無法察覺的威脅。這種增強的可視性是一項顛覆性特性，有助于高效打擊日益復雜的網絡攻擊。
從積極的方面看，GenAI 已成為加強安全運維不可或缺的工具：
加速工作流程：網絡安全專業人員現在使用 ChatGPT 等 GenAI 工具快速排除故障、破解復雜問題并從海量數據集中提取實用洞察——這些任務以前都需要數周或數天的時間才能完成。
威脅檢測：GenAI 能夠快速、深入地分析海量數據，從而幫助機構檢測到可能被忽視的威脅。
事件響應：GenAI 正被探索用于總結攻擊模式、縮短響應時間并加強防御能力。
然而，GenAI 的興起也帶來了重大風險。若無適當的安全防護措施，輸入到 ChatGPT 等工具中的敏感數據可能會在不經意間被泄漏。一次數據處理不當就可能帶來毀滅性后果，如果這些數據被用于未來網絡攻擊的話。
從某些方面來看，這項變革性技術為網絡犯罪分子肆無忌憚的濫用提供了可乘之機：
惡意代碼開發：ChatGPT 和類似工具甚至支持新手攻擊者創建和調試惡意軟件，這大大降低了網絡犯罪發起攻擊的門檻。
復雜的網絡釣魚電子郵件：黑客可利用 GenAI 制作出更具迷惑性的逼真電子郵件。與傳統的網絡釣魚電子郵件相比，這些電子郵件更有可能騙到收件人，因為前者措辭不夠嚴謹并缺乏對相關情況的了解，所以可能會被明眼人識破。
深度偽造：GenAI 生成的視頻和音頻片段往往難辨真偽，主要用于欺詐、造謠和勒索，致使社交工程威脅升級。
這些濫用案例凸顯了一個殘酷的現實：正如 GenAI 可以讓防御者如虎添翼一樣，它也可能為虎作倀，成為攻擊者的幫兇。
保障 GenAI 領域的安全
隨著 GenAI 的快速普及，用戶需要采取主動式安全防護來緩解風險。Check Point 建議采取以下措施：
開展員工培訓：讓員工了解 GenAI 特定的威脅和風險，例如逼真的網絡釣魚電子郵件、深度偽造和幻覺，以便他們能夠發現和報告潛在事件。
實施數據保護：采用可靠工具防止在不經意間與 AI 平臺共享敏感數據，從而降低數據泄漏或濫用風險。
監控和規范 AI 使用：制定明確的政策，確保在機構內以合乎道德的方式安全使用 GenAI，讓使用者和開發人員承擔起相應的責任。
實施自動化數據控制：部署自動化解決方案來監控和限制與第三方 AI 系統的數據共享，確保敏感信息始終安全無虞。
采用基于 AI 的防御：利用 AI 工具有效防范攻擊，增強威脅檢測和響應能力。
未來愿景：負責任地使用 AI，維護網絡安全
毫無疑問，ChatGPT 等 GenAI 將在塑造網絡安全格局方面發揮日益重要的作用。我們所面臨的挑戰在于如何正確發揮其潛力，同時最大限度地降低濫用風險。
使用 GenAI 的好處顯而易見：用戶可以使用其算法高效使用之前很難處理的海量數據。然而，GenAI 并不是人類的自動化替身，也不僅僅是一套先進的算法。雖然 GenAI 潛力巨大，但其風險也不容小覷。
為了確保 GenAI 正面助力網絡安全，各機構必須對其使用承擔起責任。無論是通過監管敏感應用、培養 AI 文化素養，還是部署高級監控工具，業界都必須與這項技術同步發展。通過保持警惕性和前瞻性，我們可確保 ChatGPT 等工具不斷推動創新，同時防止其被濫用。
