近日，歐盟人工智能法案（AI Act）的首批合規期限正式邁入實施階段，這一舉措標志著歐盟在人工智能監管領域邁出了關鍵一步。當地時間2月2日，該法案所規定的首批合規要求開始生效，賦予了歐盟監管機構權力，以禁止那些被認為存在“不可接受風險”或潛在危害的AI系統。
歐盟人工智能法案自去年3月在歐洲議會獲得批準后，于8月1日正式生效，成為了一個全面的監管框架。此次生效的合規要求，特別針對法案中明確列出的高風險AI應用，這些應用包括但不限于：用于社會評分的AI、以隱蔽或欺騙手段影響個人決策的AI、利用個人弱勢如年齡、殘疾或社會經濟地位進行操縱的AI、基于外貌預測犯罪可能性的AI、使用生物識別技術推斷個人敏感特征（例如性取向）的AI、在公共場所收集“實時”生物識別數據用于執法的AI、試圖在工作或教育環境中推斷個人情緒的AI，以及通過網絡或安全攝像頭圖像創建或擴大面部識別數據庫的AI。
根據該法案，任何在歐盟境內使用上述高風險AI應用的公司，無論其總部所在地，都將面臨嚴厲的罰款措施。罰款金額最高可達3500萬歐元（當前約合2.64億元人民幣），或者公司上一財年年收入的7%，以較高者為準。這一規定旨在確保所有相關企業嚴格遵守法規，維護歐盟公民的數據安全和隱私權益。
然而，值得注意的是，罰款并不會立即執行。英國律師事務所Slaughter and May的技術主管Rob Sumroy指出，盡管各組織應在2月2日前達到合規要求，但下一個關鍵期限是8月。屆時，主管機構將確定，罰款和執法條款也將正式生效。Sumroy還提到，由于列出的高風險用例性質惡劣，大多數公司本身就不會涉足這些領域。他們更關心的是，能否及時獲得明確的指導方針、標準和行為準則，以便更好地理解和遵守法規。
盡管該法案對高風險AI應用采取了嚴格的禁令措施，但也規定了一些例外情況。例如，執法部門在特定情況下被允許使用某些在公共場所收集生物識別數據的系統，以幫助進行有針對性的搜索，如尋找綁架受害者或預防重大且迫在眉睫的生命威脅。然而，這種豁免需要獲得相應管理機構的授權，并且執法部門不能僅憑這些系統的輸出做出具有法律不利影響的決定。該法案還為在工作場所和學校推斷情緒的系統設定了例外，但僅限于存在醫療或安全理由的情況下，如用于治療目的的系統。
歐盟委員會此前曾表示，將在與利益相關者協商后于2025年初發布更多指導方針。然而，截至目前，這些指導方針尚未公布。Sumroy表示，目前尚不清楚其他現行法律將如何與人工智能法案的禁令和相關規定相互作用。他預計，隨著執法窗口的臨近，今年晚些時候情況可能會變得更加清晰。
Sumroy還強調，各組織必須意識到人工智能監管并非孤立存在。其他法律框架，如GDPR（通用數據保護條例）、NIS2（網絡安全與信息化指令）和DORA（數字運營韌性法案）等，將與人工智能法案相互作用，可能帶來潛在挑戰，特別是在事件通知要求重疊的方面。因此，了解這些法律如何與人工智能法案相結合，對于組織來說同樣至關重要。
