在AI時代，犯罪和反制之間的競爭不再是簡單的人力競爭，而需要利用技術手段。AI技術也可能被犯罪分子利用，從而加劇了犯罪的威脅。AI技術也可以幫助警方提高犯罪預測和偵查的準確性和效率，從而有效地防范和打擊犯罪。
近年來，隨著人們對人工智能（AI）技術認識的提高和應用的廣泛推進，AI技術也被不法分子利用，出現多種形式的詐騙活動，數量和規模均呈現出快速增長的勢頭。據不完全統計，僅在2022年，我國AI詐騙案件就達到了50萬件，涉及金額超過100億元。與此相應，隨著AI技術的發展，警方也可以利用AI技術來提高犯罪預測和偵查的效率和準確性。進一步，AI可以通過分析大數據、視覺圖像分析和識別、自然語言處理和語音識別等技術手段，發現隱藏在數據背后的模式和規律，從而提供重要的線索和證據，協助警方偵破案件，在司法實踐中也發揮著重要的作用。
涉及AI犯罪的種類
AI被用作“惡意”犯罪的工具，目前可以將其分為三類：
一是使用AI的犯罪：指的是使用AI作為實施傳統犯罪的工具，如盜竊、欺詐或偽造。犯罪分子可以使用AI創建虛假身份，又或是利用人工合成的身份信息進行詐騙。例如：在語音通話中利用人工合成的聲音騙取信任實施詐騙。當你的聲音被上傳于互聯網，則有可能被克隆，用來對你的親友進行詐騙。在現代大數據時代，每段出現在互聯網上的聲音都有可能被用來合成進行犯罪行為。
二是針對AI的犯罪：是指對AI系統的完整性或可用性的攻擊。這包括入侵AI系統以竊取數據或破壞其運作。2022年6月21日，大學生學習軟件“學習通”數據庫信息被公開售賣，其中泄露的數據包含學校/組織名、姓名、手機號、學號/工號、性別、郵箱等信息達1.7億條。2022年7月初，某市公安數據庫遭入侵，黑客在某論壇公開出售中國居民信息和警察案件數據，標價10比特幣（合時價約美元20萬或人民幣134萬）。這類數據泄露的案件對個人的隱私造成極大的侵犯，同時也提高了網絡詐騙的犯罪率。
三是AI本身的犯罪：指的是AI自主系統在沒有人類干預的情況下實施犯罪。現在，這仍然是理論上的猜測。但不可否認，自主系統可能被編程并從事犯罪行為，例如使用無人機進行非法監視或進行網絡攻擊。許多電影都對“AI毀滅人類”這一議題進行了預演，引發我們的思考。如《黑客帝國》《異形：契約》，都描述了人類與AI之間可能存在的戰爭。
AI用于反制犯罪
AI犯罪手段通常比傳統手段更高明，更難以識別，從而增加了反犯罪的難度。AI用于刑偵和司法，可以增強反制犯罪的成功率。
1.AI用于刑偵。
通過對犯罪人員以往的數據分析和監控，警方可以使用機器學習算法分析犯罪數據，以識別犯罪模式和趨勢，從而提前預警和防范犯罪，降低再犯率。如韓國針對有強奸犯罪前科的人員佩戴“電子鐐銬”，既降低了廣設監獄為社會帶來的負擔，同時為罪犯提前社會化打下了基礎，也能夠有效預防罪犯再次犯罪；在我國各大火車站、高鐵站出站口廣泛應用的“人臉識別”技術，也同樣有助于識別和跟蹤公共場所的有重大犯罪前科的嫌疑人。
同時，AI還可以通過視覺圖像分析和識別技術，對視頻監控畫面進行分析，提取出關鍵信息，如人物特征、車輛類型、物品特征等，從而輔助犯罪偵查。例如，AI可以基于視頻監控畫面，識別出犯罪嫌疑人的面部特征、衣著特征等，與警方數據庫中的人臉信息匹配，快速鎖定嫌疑人。AI還可以通過車輛識別技術，快速識別出犯罪嫌疑車輛，并追蹤車輛行駛軌跡，協助警方偵破案件。進一步，AI可以通過對視頻監控畫面的分析，識別出人物的行為特征，如走路姿勢、手勢、面部表情等，從而進行行為分析和預測。例如，AI可以根據犯罪嫌疑人的走路姿勢和手勢等特征，分析其行為特點，判斷其是否有潛在的犯罪嫌疑，并預測其可能的犯罪行為。此外，AI還可以通過對監控畫面的分析，檢測出異常行為，如人員聚集、車輛擁堵等，快速發現和預警可能發生的異常事件，提高治安管理和應急處置的效率。
2． AI用于司法。
AI在司法審判過程中也可以起到多個方面的作用，如證據分析、判決輔助、案件調查等。在證據分析方面，可以利用自然語言處理技術對大量文本進行分析，幫助律師和法官發現潛在的證據和證詞矛盾。在判決輔助方面，基于機器學習和數據挖掘技術，可以預測案件的勝負和判決結果，為法官提供輔助判斷依據。在案件調查方面，可利用計算機視覺技術和大數據分析，快速搜集和整理相關證據和信息，幫助警方和律師快速鎖定嫌疑人和證據。
但在確定AI在司法審判中的角色時，我們需要認識到AI并不能完全代替人類的判斷和決策。尤其是在涉及人的生命和自由等重大利益的案件中，法官需要綜合考慮多種因素，包括事實、法律和公眾利益等，做出判斷和決策。AI作為一種輔助手段，只能為法官提供更準確和全面的信息和數據分析，最終的決策還需要人類的判斷和權衡。AI在司法審判中更適合處理具有一定規律和模式的案件，如知識產權、合同糾紛等。對于那些復雜、涉及人的情感和道德判斷的案件場景，如何判決和量刑，AI的應用則較困難。同時，AI應用于司法，也可能存在人為偏見和不公平性，因為機器學習算法本身就會受到訓練數據的偏差和人為主觀性的影響。
3.AI用于監管。
除了審判過程，在犯罪人員服刑過程中AI也可以扮演其相應的角色，福柯在《監獄的“替代方案”》中討論了監獄的歷史和功能，并提出了一種“替代方案”，即通過社會控制和監視來代替監獄對罪犯的懲罰和控制。福柯認為，監獄的功能已經從懲罰轉向了控制和糾正，但是監獄仍然存在一些問題，如監獄暴力、再犯率高等。他提出，通過使用現代技術手段如電子監管和數據分析等，可以更加有效地進行社會控制和監視，從而達到更好的控制罪犯的目的。這種替代方案的實現可能涉及一些AI技術手段，如電子監管、數據分析和面部識別等。
總之，AI技術可以用于犯罪預測和預防、犯罪偵查、審判、監獄管理等各個環節。AI應用于現代刑事司法系統是有啟示意義的，它提醒我們應該更加關注罪犯的社會背景和環境，而不僅僅是犯罪行為本身，同時也提醒我們應該謹慎地使用AI和其他技術手段來進行社會控制和監視，以避免出現濫用和不當使用的情況。
不論是AI在實施犯罪行為，在司法審判中發揮作用或是用于預防和干預犯罪的過程中，對于AI實體的權責界定和對其能力的約束都十分重要。同時，在人類借助AI進行創造性或重復性工作時，有信譽且有能力的第三方對其行為的約束，都對可能存在的數據和技術濫用起到關鍵性的預防作用。在AI時代，犯罪和反制之間的競爭不再是簡單的人力競爭，而需要利用技術手段。AI技術也可能被犯罪分子利用，從而加劇了犯罪的威脅。AI技術也可以幫助警方提高犯罪預測和偵查的準確性和效率，從而有效地防范和打擊犯罪。因此，我們需要不斷地加強對AI技術的研究和應用，提高其在犯罪反制方面的效果和質量，從而更好地維護社會的安全和穩定。
（李磊系南開大學經濟學院、經濟行為與政策模擬實驗室教授，李陽系南開大學經濟學院研究生。本文是國家社科基金重大項目“全球產業智能化對我國供應鏈安全的影響及對策研究”的階段性成果）
