深圳新聞網(wǎng)2026年3月11日訊（記者 劉惠敏 王睿 張俊達）當視頻通話中的“親人”聲淚俱下地借錢，當“老同學”在手機屏幕上急切地求助轉賬，當短視頻里的“明星”正在傾情推薦神藥，你是否會懷疑自己的眼睛？

“你是溫崢嶸，那我是誰？”日前，演員溫崢嶸的靈魂質問，恰恰戳中了AI換臉詐騙的隱蔽與惡劣——她的形象被不法分子惡意偽造，淪為直播帶貨的“工具”；甄子丹、靳東等多位名人也未能幸免，同樣遭遇AI換臉侵害，其中靳東的形象被不法分子仿冒后，專門用于針對中老年群體實施詐騙，讓人防不勝防。

今年2月，最高人民法院披露，2021年至2025年，全國法院一審新收詐騙刑事案件增長81.2%，其中利用AI換臉、深度偽造等前沿科技實施的智能化詐騙也呈現(xiàn)高發(fā)多發(fā)趨勢。AI技術這把雙刃劍，正在成為詐騙分子手中的“新式武器”。

9塊9就能“定制”一張臉

如今，AI數(shù)字人主播在電商和短視頻平臺已屢見不鮮。商家只需花費數(shù)百元，就能擁有一個能夠24小時直播的員工，能根據(jù)用戶反饋實時調整話術，達到“以假亂真”的效果。

這本是降本增效的技術應用，但技術的濫用正在從線上走向線下，從娛樂走向犯罪。有不法分子利用實時換臉、聲音合成等技術，冒充親友進行視頻通話詐騙，真假難辨、防不勝防，讓科技成了精準詐騙的工具。

記者在各類電商和社交平臺搜索“AI換臉”“聲音克隆”等關鍵詞時，部分結果已被平臺屏蔽，部分社交平臺還會跳轉提醒用戶使用需“合法合規(guī)、注意辨別”“切勿輕信、謹防詐騙”，但一旦更換相似的關鍵詞，仍能搜索到大量標注了“活體認證”“實時換臉”等標簽信息的商品。

網(wǎng)絡平臺搜索結果。

記者進一步調查發(fā)現(xiàn)，AI換臉與聲音克隆技術的價格從個位數(shù)到千元不等，多是由賣家代為售賣海外AI換臉軟件安裝包，并提供包月或買斷服務。一位賣家向記者表示，可以支付288元一次買斷軟件技術獲得某款AI換臉軟件的永久代理權，記者自己也可以貼牌代理。也有賣家低價大量售賣軟件安裝包和教程，【9.9元】即可購得打包好的“完整教程”。從調查情況來看，這些賣家往往不在平臺直接交易，而是引導買家添加微信、通過網(wǎng)盤傳輸資料，在平臺監(jiān)管以外完成進一步交易，相關服務顯然已形成成熟的灰色產業(yè)鏈。

此前多地司法機關公布相關案情顯示，詐騙分子在社交平臺廣泛搜集消費者或其親友公開發(fā)布的清晰面部視頻、語音片段，用于AI模型訓練，再利用深度合成技術，合成足以以假亂真的視頻或音頻。結合一些精心設計的緊急情境，不法分子直接與消費者取得聯(lián)系，要求向指定賬戶轉賬。

AI換臉技術還被用于侵入計算機信息系統(tǒng)。在2025年7月武漢警方偵破的一起案件中，犯罪嫌疑人通過AI換臉技術篡改企業(yè)法定代表人信息，對企業(yè)進行非法控制。

反制加速 在手機里裝上“反詐雷達”

面對日益猖獗的AI詐騙，反制舉措正在提速上線。

2025年9月，國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布的《人工智能生成合成內容標識辦法》施行，要求AI生成內容必須添加標識。這為網(wǎng)絡內容治理提供了明確依據(jù)，有效規(guī)范AI生成內容傳播秩序，限制了部分未合規(guī)標識的AI視頻傳播。

記者調研發(fā)現(xiàn)，部分運營商和手機廠商已開始在系統(tǒng)層面植入AI反詐檢測技術，支持視頻通話時實時檢測AI換臉技術。中國移動自主研發(fā)的AI換臉鑒偽核心技術可以對偽造圖像存在的局部模糊失真、邊緣銳化、通道分布異常等特征，通過深度學習模型進行分類鑒別，實時鑒偽準確率超95%。以總部位于深圳的榮耀公司為例，其2024年推出的系統(tǒng)內置了“AI換臉檢測”功能，能夠在視頻通話過程中實時分析畫面要素。

這類技術的原理是什么？榮耀方面向記者解釋：當用戶與好友視頻通話時，系統(tǒng)可在滿足特定條件的情況下，自動檢測對方人臉是否存在換臉風險。檢測到風險時，屏幕會顯示提示；用戶也可主動確認檢測，系統(tǒng)實時分析并反饋結果。

這一技術路徑的關鍵在于“端側”，即所有檢測在手機本地完成，無需上傳云端，又實現(xiàn)實時響應。原理上，它通過分析視頻通話中的畫面要素，包括像素點、紋理細節(jié)、幀率異常等，捕捉AI合成難以完美復刻的物理破綻。

看懂破綻 守住底線

技術只是防護的一部分。研究顯示，在復雜場景下，現(xiàn)有AI檢測器的準確率可能從90%驟降至60%。不法分子還可通過本地運行開源模型、修改原始素材等方式規(guī)避平臺審查。因此，在技術防御之外，法律懲戒和公眾意識的提升同樣關鍵。

今年全國兩會上，多位代表委員關注AI治理。全國人大代表、美的集團副總裁鐘錚明確呼吁治理AIGC虛假營銷和數(shù)字人違規(guī)直播亂象。廣東省江門市科恒實業(yè)股份有限公司鋰電材料事業(yè)部主任研發(fā)工程師丁雪梅針對談及AI換臉侵權背后的“維權難”問題，建議推動各大平臺建立AI侵權“一鍵投訴”功能。針對利用AI換臉造謠誹謗、偽造音視頻侵害名譽、肖像等行為，平臺可設立專門受理通道。四川省律師協(xié)會會長李世亮代表呼吁最高人民法院盡快出臺相關司法解釋，細化“AI換臉”侵權的認定標準、平臺責任、精神損害賠償?shù)纫?guī)則。

對普通消費者而言，防范AI詐騙需要牢記幾個原則：涉及轉賬，即便看到實時視頻，也要通過通訊錄中留存的號碼二次核實；不隨意在社交平臺泄露人臉、聲音等敏感信息；遇到所謂“緊急情況”，務必放緩節(jié)奏，切勿沖動操作。

而對整個社會而言，AI換臉的治理注定是一場“大合唱”而非“獨角戲”。全國人大代表黃勇強調，技術企業(yè)要履行主體責任，堅守科技向善的底線，主動落實數(shù)據(jù)安全和內容審核義務。網(wǎng)信、公安等部門則需加強聯(lián)合監(jiān)管，對利用AI換臉等人工智能技術實施的違法犯罪行為依法打擊。