AI技術的發展，給我們的生活帶來很多便利，然而在近期發生的詐騙案中，犯罪團伙也利用上了AI技術，令人真假難辨。

在湖北黃石，一名老人急匆匆到派出所報案，說她接了孫子的電話後就被騙了兩萬元，但她可以確定，電話那頭分明就是她孫子的聲音，怎麼就被騙了呢？

接了“孫子”來電

卻被騙兩萬元

劉女士今年70多歲了，她的孫子在本地的一所學校上初中。今年4月28日下午，她和老伴突然接到孫子打來的電話。

被害人 劉女士：我孫子說他在外面超市裏買東西時，把別人一推，頭被打破了。那個孩子在醫院裏面，孫子已經在派出所。對方要求私了，給2萬塊錢。

接到電話後，老兩口非常着急。由於當時家裏的錢不夠，劉女士趕緊給親朋好友打電話籌錢。不一會兒，家裏的座機電話又響了。

被害人 劉女士：這個時候來電話了，孫子在電話那頭哭得不行了，哭得很傷心。他說奶奶來救救我，我知道我錯了，我以後再也不會犯錯了。這個事情別跟媽媽講，講了我就跳樓。我安慰他，我說別急，人人會犯錯，奶奶不怪你。

叮囑老人

千萬不能告訴家長

聽到電話那頭孫子的哭聲，老兩口更加着急了，趕忙東拼西湊了2萬塊錢。由於孫子說千萬不能將這件事告訴媽媽，老人就決定自己去派出所給孫子送錢。但是，當她詢問孫子在哪個派出所時，對方突然掛掉了電話。

老兩口不知道孫子在哪個派出所，也不敢聯繫孩子的父母和學校，就在他們手足無措的時候，電話鈴又響了。

被害人 劉女士：這個時候電話鈴又響了，他說你不用來，我同學爸爸來拿錢。我說來拿錢可以，我就把爺爺電話告訴你，來的時候找不到我就打這個電話，我接到這個電話就給錢。

在電話裏孫子告訴了老兩口一個地址，說一會兒同學的爸爸會去那裏取錢，只說了這一句就掛斷了電話。老兩口聽後趕緊拿着現金出了門，按照指示來到孫子說的地點，等待取錢的人。

公共場所的視頻畫面顯示，當天下午5點左右，一名戴着帽子和口罩的男子出現在老兩口附近。隨後，他掏出手機撥打電話，並將電話交給了劉女士。

被害人 劉女士：電話遞給我叫我接，對方說奶奶給吧，是我孫子的聲音，這個時候我毫不猶豫地把錢給他了。

始終未告訴家人

直到孫子回家才察覺被騙

視頻畫面顯示，男子拿到錢以後，迅速離開了現場。對方把錢取走後，老兩口覺得孫子遇到的麻煩已經解決，放心回了家。接下來的幾天，劉女士守口如瓶，沒有向任何人提起這件事。直到孫子回到家，老人問起當時的情況，得到的回覆卻令人大喫一驚。

被害人 劉女士：我就問我孫子，同學的頭打破了現在怎麼樣？他說沒有這個事。我這個時候就知道自己被騙了，就報警了。

接到老人的報警後，警方立即展開調查。他們發現近段時間在當地用這種方式實施詐騙的案件，不僅有這一起。

黃石市公安局黃石港區分局刑偵大隊大隊長 徐海雄：短短的幾天內，公安機關就接到了兩起報案。報案的內容都是冒充孫子詐騙老年人的案件，而且犯罪嫌疑人要求上門取錢。公安機關通過調取視頻畫面，發現是同一人上門取錢，所以公安機關將這兩起案件併案處理。

民警調查發現，這兩起案件裏的被害人都是老年人，而且詐騙電話都是通過家裏的座機打進來的。

黃石市公安局黃石港區分局刑偵大隊大隊長 徐海雄：老年人在家通過座機接聽電話，一般情況下不會注意對方電話的來電顯示。對電話的內容覈實帶來了困難，給犯罪分子帶來了可乘之機。

網上找到高薪兼職

上門取錢並轉移資金

民警根據視頻線索，成功鎖定了在兩起案件中負責上門取錢的犯罪嫌疑人張某，並將其抓獲。據張某交代，他是按照上家的指示前往現場取錢並轉移資金。

黃石市公安局黃石港區分局刑偵大隊民警 蘭迪：嫌疑人到案之後，經過審訊我們瞭解到，他是在網上收到了犯罪團伙發送的兼職信息，可以日賺千元。工作內容也很簡單，就是上門收取詐騙資金，然後放到指定的地點，再由詐騙團伙安排人員把錢取走。目前此案我們正在進一步偵辦當中。

兩位被害人都表示，電話裏騙子的聲音都和自己親屬的聲音極爲相似。那麼，犯罪嫌疑人是怎麼做到僞裝得這麼像的呢？被害人劉女士提到了這樣一個細節。

被害人 劉女士：孫子曾經提供這樣一個信息，曾經有幾次打進電話是我接的，但是我問找誰沒人應。

逐步收集聲音信息

再精準施騙

根據被害人提供的線索，民警分析認爲，犯罪嫌疑人可能是通過多次撥打劉女士家的座機電話，逐步收集了她孫子的聲音信息，進而利用這些信息實施了詐騙犯罪。

黃石市公安局黃石港區分局刑偵大隊民警 蘭迪：在接聽電話的過程當中，騙子能夠捕捉到孫子聲音的特點，進而利用這個聲音進行聲音的克隆。通過聲音的合成技術是完全可以做得到的。

民警調查發現，現在很多軟件都具備聲音模擬的功能，能夠高度還原甚至僞造他人的語音。而在這幾起案件中，被騙的都是家裏的老人，聽到孫子求助的聲音後一下就慌了神，也顧不上分辨對方是真是假。

警方提示，老人再接到類似這樣的電話，一定要多聊幾句，如果對方不容分說就掛斷電話，很可能就是用AI軟件提前錄好的聲音。

“AI換臉”激活電話卡

警方演示步驟

除了利用AI模擬聲音，犯罪團伙還盯上了“AI換臉”。前不久，湖北襄陽警方就查獲了一起利用“AI換臉”技術激活電話卡，再倒賣給詐騙團伙的案件。根據相關規定，電話卡激活聯網是需要實名認證和人臉識別的，那麼，犯罪團伙是如何做到的呢？

2024年5月，襄陽警方獲取了一條線索，轄區內有人通過網絡大量購買電話卡。

南漳縣公安局網安大隊大隊長 葉文俊：發現本地一名可疑人員，夥同外地三名可疑人員在網上大量購買電話卡。我們隨即對他們爲什麼購買電話卡，怎麼購買的電話卡和購買電話卡的去向開展綜合調查。

根據相關法律規定，購買電話卡需要進行實名制登記。那麼，嫌疑人是如何購得這些電話卡的呢？即使他們成功購買了電話卡，還需通過用戶的人臉識別來激活使用。對於這些步驟，嫌疑人又是如何逐一完成的呢？

警方調查併成功鎖定了這一犯罪團伙，將團伙成員悉數抓獲歸案。

南漳縣公安局網安大隊副大隊長 吳長融：我們抓獲這個團伙成員後，扣押手機卡200餘張，現金10萬餘元。同時我們發現該團伙非法掌握的公民個人信息1000餘條。

這個團伙由7個人組成，他們分佈在全國各地，一般通過網絡進行聯繫。他們分工明確；有負責收集公民個人信息的，有負責購買手機電話卡的，有負責技術的，有負責銷售手機電話卡的。

非法獲取公民個人信息

其中包括照片

警方調查發現，這一犯罪團伙非法獲取了大量公民個人信息，並利用這些信息購買了大量電話卡。然而，電話卡只有通過人臉識別才能激活使用。那麼，嫌疑人又是如何完成人臉識別這個步驟的呢？

原來，嫌疑人所掌握的個人信息不僅包括姓名、身份證號等，還包含個人照片。他們正是利用這些照片製作成人臉識別所需的動態視頻，從而成功通過系統驗證，完成電話卡激活。

南漳縣公安局網安大隊副大隊長 吳長融：這些手機卡被他們寄給了一名掌握換臉技術的團伙成員。這個人在收到手機電話卡後，會利用換臉軟件將公民的個人信息製作成換臉視頻。

用照片合成動態視頻

完成認證

警方調查發現，嫌疑人在進行電話卡的人臉識別激活步驟時，通過播放預先製作好的人臉合成動態視頻，使得註冊系統自動完成了識別和認證過程，從而逐一激活了所有電話卡。

犯罪團伙將這些電話卡激活後，以每張200元左右的價格賣給電信網絡詐騙團伙。

南漳縣公安局網安大隊副大隊長 吳長融：這種被非法激活的手機電話卡，大量流入詐騙團伙手中。詐騙團伙利用這些手機電話卡在全國作案50餘起，涉案金額超過500萬元。山西省太原市一70歲老人，被詐騙團伙利用這種手機電話卡詐騙了60餘萬元。

2025年6月10日，本案的三名主犯因犯幫助信息網絡犯罪活動罪，已被南漳縣人民法院一審分別判處有期徒刑一年八個月至一年，並處罰金。

“線上激活”還足夠安全嗎

如何防範風險

據記者瞭解，這起案件中，犯罪嫌疑人使用的都是同一個運營商的電話卡。他們也是看到了這家運營商在實名認證中的技術漏洞，所以頻繁作案。警方已經聯繫這家運營商，督促他們及時更新系統。那麼，其他運營商也會存在這樣的問題嗎？現有的電話卡激活程序還安全嗎？我們又該如何有效防範這些風險呢？帶着這些問題，記者採訪到了法學專家、行業內的專家以及從業者，去聽一聽他們的專業分析和見解。

爲了進一步瞭解新電話卡的激活流程，記者分別致電了幾大運營商進行諮詢。

運營商客服人員：本人攜帶您的實名認證的身份證，到當地營業廳開卡。比如您在App上自己號選套餐，我們就安排我們的派送員給您派送到家，派送的時候需要機主本人在場，身份證原件在場，當場給您激活。服務號，那裏面有一個專區服務，有一個新號碼激活，也可以申請激活一下。

根據運營商提供的信息，電話卡激活方式主要分爲線上和線下兩種。如果選擇線下激活，用戶可以在營業廳由工作人員協助完成激活流程，或者在快遞員派送時現場協助激活。無論哪種方式，都要求用戶本人攜帶身份證件並親自到場，確保了整個流程的規範性和安全性。

如果選擇線上激活，可以通過運營商的App或微信公衆號。記者打開運營商App進行查看時發現，用戶只需上傳身份證信息並完成生物識別，即可完成電話卡的激活。

然而，隨着AI換臉、僞造身份等技術的不斷升級，僅依賴“身份證+人臉識別”的線上激活方式，是否還足夠安全呢？

對外經濟貿易大學數字經濟與法律創新研究中心主任 許可：我們做網絡安全的內行人都會說一句話，沒有任何一個網絡是永遠安全的。人臉識別技術發展可能只有幾年的時間，在這幾年過程中，有一些技術仍然在不斷更新和迭代，每次更新和迭代都可能會帶來新的漏洞，所以這個漏洞我們覺得是很難避免的。

法學專家指出，人臉識別認證的初衷是爲了提升身份驗證環節的安全性。然而，隨着技術的進步，不法分子攻擊的技術手段也在不斷提升。這也是新技術應用過程中固有的挑戰。

對外經濟貿易大學數字經濟與法律創新研究中心主任 許可：但凡是新技術新應用，它永遠存在着我們之前沒有發現的新問題，但是我不能因爲它存在這種新問題，就抹殺了它自身技術的進步性。在網絡安全的鬥爭中，維護網絡安全的一方和去打破網絡安全的一方，永遠是魔高一尺，道高一丈，在此消彼長中，推動了我們網絡安全的水位。

然而，法學專家也提到，儘管任何技術都可能存在一定的漏洞，但根據相關法律規定，運營商作爲服務提供方，仍然負有保障用戶信息安全的法定義務。

對外經濟貿易大學數字經濟與法律創新研究中心主任 許可：運營商一直是網絡安全風險防控的第一線，因爲我們之所以能夠進入到網絡空間，很多時候靠的就是運營商提供的入網服務。我國法律已經有非常明確的規定，要求運營商應當提高技術防護的水平和能力，對於這種繞開人臉識別的攻擊應當做好防範。

《中華人民共和國反電信網絡詐騙法》對電信業務經營者的責任作出了明確規定。

第九條規定，電信業務經營者應當依法全面落實電話用戶真實身份信息登記制度。

第十四條規定，電信業務經營者應當採取技術措施，及時識別、阻斷用於實施電信網絡詐騙等違法犯罪的設備、軟件接入網絡，並向公安機關和相關行業主管部門報告。

法學專家指出，如果電信業務經營者未能依法履行相關義務，造成嚴重後果，將依法承擔相應的法律責任。

對外經濟貿易大學數字經濟與法律創新研究中心主任 許可：如果運營商沒有落實好實名制的認證責任，可能會面臨着從5萬到500萬的罰款。在非常極端情況下可能會承擔着更多的責任，包括相關的負責人也可能會受到相應的處罰，包括暫停營業，或者是不允許他再從事相關業務的處罰。

那麼，作爲信息通信安全的第一道防線，運營商應該如何有效堵住技術漏洞，履行好風險防控的責任呢？

對外經濟貿易大學數字經濟與法律創新研究中心主任 許可：以夷制夷，由技術帶來的風險需要由技術本身的發展去解決。在實踐中，一些運營商已經通過人工智能的技術研發出一些以人工智能去防範人工智能造假的產品。通過這種以AI治理AI的方式，去解決我們現在面臨的人臉識別攻擊的問題。

防僞鑑別程序日漸成熟

準確率超95%

爲此，記者專門採訪了AI安全領域的資深從業者。據介紹，當前行業內多家領先企業正積極投入防僞技術的研發中，在識別僞造圖像和視頻方面的準確率已經超過95%，大大提升了現有系統的安全性。

AI安全領域從業者 朱萌：現在業內其實已經有這樣的技術研發，已經嘗試去集成一些用熱力圖的方法去鑑別對面的AI到底是真的一個人在講話，還是由深度換臉形成的一個人。實際上業內最頂尖技術的檢測率或者檢出率是超過95%的，它已經能夠在實戰中應對AI風險了。

朱萌介紹，有些僞造的圖片和視頻，人眼是難以識別的，但通過訓練AI，可以讓AI來完成這一任務。

不斷提升技術手段

“用AI對抗AI”

實驗人員將一段真實視頻與另一段經過AI換臉處理的視頻輸入到檢測系統中，系統可以準確識別出哪一段是僞造的。

中國電子技術標準化研究院網安中心測評實驗室副主任何延哲介紹，當前，一些應用人臉識別技術的單位已經採用了類似的防僞鑑別程序，提升人臉識別系統的可靠性。

中國電子技術標準化研究院 網絡安全研究中心測評實驗室副主任 何延哲：比如某款最新出臺的智能手機，它在視頻通話的時候就會有一個功能，比如是否識別對面的人臉是僞造的，其實已經把這樣的技術應用上了。我們現在AI的發展，生成式人工智能的發展其實也比較方便我們能夠利用AI去對抗AI，我們只要保證我們自己相應AI的技術能夠不斷地創新發展，我們就可以有效地對抗那些利用AI作惡的人。

保護個人信息仍是重點

安全措施應更嚴格

何延哲認爲，除了不斷提升技術手段和增強防僞鑑別能力外，個人信息保護依然是非常重要的環節。一方面，普通百姓應提高自我防範意識，避免隨意泄露個人信息；另一方面，存儲這些信息的單位也應採取更爲嚴格的安全措施，特別是實施分離存儲策略。

今年6月1日，《人臉識別技術應用安全管理辦法》正式實施。該《辦法》不僅明確要求人臉識別技術的應用必須遵循合法、正當、必要的原則，並實施嚴格保護措施。還鼓勵、支持研究開發和推廣應用安全、方便的電子身份認證技術，推進網絡身份認證的公共服務建設。

（總檯央視記者 張李彬 王思思 劉強 李想）