經濟觀察報 記者 老盈盈

在AI（人工智能）技術快速發展的背景下，各式各樣的“深度偽造”（Deepfake）隨時可能在日常生活中出現，讓人防不勝防。

近期，螞蟻數字科技（下稱“螞蟻數科”）的產品技術人士在對算法進行優化時發現了一些不法分子新的欺詐手段。不法分子首先布下“釣魚”陷阱，以銀行的身份向被攻擊對象發送短信或郵件鏈接，引導他們到其網站進行交易。等被攻擊對象不慎點擊進入釣魚網站，提交了自己的姓名、身份證號、電話號碼、短信驗證碼和支付密碼后，這些不法分子就像拿到了“萬能鑰匙”，立刻用這些信息登錄被攻擊對象的手機銀行，同時利用被攻擊對象的照片生成高度逼真的AI深度偽造圖像或視頻，再通過注入式攻擊（通過注入惡意代碼）來劫持被攻擊對象的手機攝像頭，隨后用預錄的圖像或視頻，篡改或替代物理攝像頭的自拍，繞過活體檢測這道防線進行驗證，以此實施欺詐等非法活動。如此一來，在身份驗證通過后，不法分子就可以轉移被攻擊對象的資金，甚至還會用被攻擊對象的信息申請貸款，而被攻擊對象卻可能渾然不知。

但“魔高一尺，道高一丈”，在11月3日至4日的香港金融科技周上，“AI對抗AI”的展位里藏著一場看不見硝煙的攻防戰。在螞蟻數科展出的宣傳片中，多組機械臂在實驗室中24小時連軸轉、模擬身份欺詐攻擊，識別圖像真偽。一組配備手機攝像頭的機械臂不停伸縮、對焦，反復識別著眼前的圖片；另一組機械臂則精準地舉起圖片，穩穩遞到攝像頭前。計算機實時記下每一次識別的結果，再把這些數據喂給人工智能算法，讓它在一次次實戰中快速成長，以更好地識別出不同AI欺詐的破綻。

這不是科幻電影里的機器人覺醒，而是一場與非法人工智能的長期攻防拉鋸戰。當不法分子的攻擊升級至新的層級，金融機構的反擊必須同步攀升至更高維度，二者在攻防博弈中形成持續循環。

AI深度偽造形式 老盈盈/攝

AI如何反擊AI

在螞蟻數科的展臺前，一個名為“深度偽造生成”的互動模塊吸引了不少參觀者。只需拍下一張自拍，系統瞬間就能生成十幾張“孿生照片”，其中只有一至兩張是真實人像，其余均由AI生成。這些照片只有少數因為發型或光線變化等較為明顯的破綻，能通過肉眼識別真偽，大部分都因高度逼真而難以分辨。

經濟觀察報記者從采訪中了解到，全球有數百萬不法分子正在投身AI欺詐等非法活動，這些人具備快速學習的能力，能及時吃透新技術。更為重要的是，此類非法活動能帶來超高“回報”，只要投入一到兩名資深技術人員發起攻擊，成功盜刷銀行賬戶一次，就有可能卷走上百萬元甚至更多。

螞蟻數科的一位產品技術人士對經濟觀察報記者表示，上述注入式攻擊是目前比較新的一種攻擊手段，以往的欺詐則多是呈現式攻擊，例如用照片、視頻、普通面具或三維頭部面具等偽造物，直接對著攝像頭呈現，以繞過活體檢測。以前，這種攻擊方式通常是用圖像或視頻處理軟件進行相應修改操作，而如今則基本借助類似美顏但更高級的生成工具通過AI生成，主要表現形式為用一張臉換成另一張臉、將靜態圖片轉換為視頻、改變面部特征、拼接兩張臉等。

面對這種升級版攻擊，金融科技公司已布下了“防御網”。上述產品技術人士表示，他們會深入研究不法分子的各類欺詐手段，模擬其操作邏輯，利用專業設備偽造人臉、指紋等樣本，進而開展針對性攻防演練。他們認為，唯有精準洞悉不法分子的作案套路，才能構建更有效的防御體系。

金融壹賬通一位產品技術人士對經濟觀察報記者表示，他們的算法會先分析圖像是否由AI工具生成或者被篡改，重點分析其是否存在算法痕跡。AI工具處理圖像時會產生技術印記，這種痕跡類似用Photoshop（圖像處理軟件）、美圖秀秀修圖后留下的代碼殘留。

他們發現，哪怕AI生成的素材看起來和真人、真實場景高度一致，但只要檢測到AI工具的使用痕跡，就可以被判定為虛假并攔截。同時，算法還會校驗畫面背景的一致性，若檢測到視頻背景重復或圖像背景與真實場景邏輯不符，也會判定為可疑。

但上述兩位產品技術人士也發現，面對注入式攻擊，純算法已經無法完全防范，需要從算法、終端、身份網絡等多維度進行防范。比如，除了從圖像層面對臉部進行識別，判斷是否屬于AI生成或者篡改，還需要從系統層面在事前檢測用戶的手機有沒有被注入式攻擊。

此外，AI欺詐的“戰場”還從圖像延伸到了聲音。金融壹賬通產品技術人士稱，正常情況下，人們不會選擇在馬路等嘈雜或公開環境中進行信息認證，而會選擇安靜的場所；同時，因為戶外環境風險較高，部分銀行甚至不認可在戶外拍攝的自拍照。

上述人士亦稱，一些不法分子常集中在同一辦公場所內輪流通話，通話中會夾雜多人說話、設備運作等雜音，這種環境下產生的聲音特征是可以被識別的，算法會把這類異常背景音標記為高風險通話。此外，算法還可以模擬測謊邏輯，通過語調波動、語速變化判斷說話人是否在說謊，如果用戶有一定的歷史語音數據，下次通話時可以實時對比，以驗證身份的一致性。

 落地場景應用

據上述技術人士介紹，AI反詐技術的落地場景覆蓋所有需電子身份認證的領域，包括銀行、保險、證券、政務服務、電商等。該技術可以理解為一個SaaS（軟件即服務）產品，可靈活集成到各類應用程序中，比如嵌入到手機銀行系統后，就能為其提供全流程的反詐監控服務。當然，銀行作為資金集中度較高的行業和欺詐重災區，也是技術落地較多的場景。

近期，香港特區政府從監管的層面，面向銀行機構，為其提供可進行模擬AI欺詐攻防測試的計劃，助力其對抗深度偽造詐騙。

10月中旬，香港金融管理局（下稱“香港金管局”）公布了第二期生成式人工智能沙盒參與者名單，新一期沙盒計劃標志著業界從探索AI的可能性，邁向推動安全可靠的AI應用。

香港金管局表示，在超過60個建議方案中，來自20家銀行和14家技術合作伙伴的27個案例獲邀進入第二期生成式人工智能沙盒。第二期沙盒計劃聚焦加強AI治理，多個案例采用“以AI對抗AI”策略，例如運用AI對AI生成內容進行自動化質量檢測，針對與日俱增的深度偽造詐騙風險，為開發創新防御機制提供試驗場。部分參與者將運用AI進行模擬攻防測試，鞏固系統以抵御更精密的數碼詐騙手法。

螞蟻數科和金融壹賬通均在此次參與者名單中。上述產品技術人員稱，沙盒并非實體實驗室，而是搭建在云端的“虛擬測試環境”。由監管機構主導，邀請銀行等機構接入測試環境中，進行案例演示與效果驗證。監管機構鼓勵銀行應用新技術，通過沙盒環境論證技術真實性與實用性，既給行業提供了可信案例，也展示了技術合規性，增強市場對新技術的信心，入選機構還可借此證明技術經監管認可。

中銀香港也在第二期沙盒名單中。中銀香港一位個人金融業務人士對經濟觀察報記者表示，他們在個人金融領域搭建了一套AI反詐體系，該體系由內部技術部門參與研發，核心是將AI反詐模型與傳統數據模型深度融合，通過對用戶個人交易進行實時監控與動態風險評估，精準判斷每筆交易是否存在欺詐隱患。

該名個人金融業務人士同時表示，中銀香港線上開戶有20萬港元轉賬額度限制，且暫無法使用投資賬戶，日常轉賬則不受影響，若想解除所有限制，儲戶需到線下分行完成身份信息驗證。他們了解到，部分詐騙案件中存在不法分子盜取個人信息，偽冒客戶本人致電銀行要求解除賬戶限制的情況。

該名人士亦稱，中銀香港的AI模型訓練依托內部歷史數據，此前曾計劃與外部公司合作，但出于信息安全考慮，相關合作未能推進。目前，香港金管局正牽頭搭建跨銀行間的詐騙數據交流平臺，該平臺會匯總并同步各銀行的相關詐騙數據，銀行可通過平臺查詢獲取這些信息。

在銀行場景之外，AI反欺詐技術也已拓展至政府和民生場景，如香港居民常用的“智方便”App（手機應用程序）。經濟觀察報記者從采訪中了解到，“智方便”是香港特區政府推出的電子身份認證平臺，提供身份驗證、自動填表、個性化提示及數碼簽署等核心功能，支持市民通過生物認證登錄政府及公私營機構在線服務，服務范圍涵蓋稅務、醫療、教育、交通等民生領域。在使用該平臺的服務前，用戶需要進行面容或指紋等生物識別及身份證掃描認證，這個環節則需要AI防御系統，以確保是真人操作。

對此，一位匯豐香港對公業務人員對經濟觀察報記者表示，他們即將面向中小型企業推出一款新的企業服務，此項服務主要為香港中小型企業提供量身定制的專項信貸方案，以及創投債務融資。這項服務接入了上述“智方便”App，通過其生物識別功能來驗證開戶企業主信息的真實性。 

日常訓練AI攻防

上述多位銀行和金融科技機構的人士對記者表示，對于AI模擬應用，他們更注重日常針對性地訓練與知識學習，使其在后續遭遇詐騙、洗錢等場景時，能夠快速作出響應。

上述中銀香港的業務人士表示，中銀香港的個人金融業務，每日能產生數百萬條個人金融交易數據，為AI模型提供豐富的訓練樣本。他們通常會接收各類案件報告，提取其中不法分子的相關信息，包括其賬戶及用于轉賬驗證的關聯賬戶，并全部列入黑名單，若這些賬戶再次啟用，會直接進行管控；同時，他們也會受理香港金管局移交的舉報線索，針對同一類型的詐騙行為，會進行歸類并納入數據庫，供AI通過大數據學習以往各類詐騙模式與特征；未來，希望AI能依托這些學習成果，對每一筆轉賬同步開展風險評估，精準識別疑似詐騙的交易行為，進而實現交易凍結或向客戶發送風險提醒的功能。

入選香港金管局第二期沙盒計劃的金融科技公司Dyna.AI的產品人士亦對經濟觀察報記者表示，在日常反詐訓練工作中，他們會以打標數據為基礎開展模型訓練。所謂打標數據，是指銀行內部專家按合規要求，人工分析篩選出的可疑交易并確認后上報監管的數據。因為相關數據均需遵循嚴格的合規要求，不能流出銀行系統，他們的團隊會派技術人員駐場，在銀行系統內搭建模型。若需采集用戶人臉等樣本數據，則需先經用戶授權銀行，再由銀行授權團隊在其內部開展相關工作。

上述Dyna.AI產品人士同時稱，傳統預設的規則易出現大量漏報、誤報的問題，若系統只會機械執行這些明確的規則，遇到新的欺詐手段，若未提前添加對應規則，就會漏報、誤報。在這種情況下，他們需要技術人員逐一核對數據，確認為真實可疑的交易再上報監管。

該名人士亦稱，他們的訓練一方面會借助歷史打標數據優化現有規則，彌補系統漏洞，另一方面也會讓模型通過學習這些數據，剔除以往常見的誤報情況，最終輸出精準的上報數據。原本的系統未必能精準地識別現有規則的相關內容，但經過針對性的訓練后，它會更聚焦于防欺詐相關場景，進而識別出目前尚未被抓取、未歸入系統的不法分子關聯信息。

（作者 老盈盈）