“當心！假親人、假領(lǐng)導可能正盯著你的錢包！”7月17日、18日，湖北省南漳縣檢察院干警與縣公安局民警連續(xù)兩天深入社區(qū)、走進養(yǎng)老院、來到快遞站，輪番播放反詐微視頻，揭露“AI換臉”這一新型詐騙的作案手法與防范要點。

2023年4月26日，檢察官在月湖廣場開展反詐宣傳。

“00后”自學AI換臉技術(shù)

2024年5月，南漳縣公安局接到廣州市公安機關(guān)移交的一條侵犯公民個人信息線索。根據(jù)線索，南漳縣公安局找到了涉嫌利用AI技術(shù)合成人臉動態(tài)視頻的陳某。

陳某是一名“00后”，原本靠打游戲、做代練謀生，因?qū)I換臉技術(shù)感興趣，自學相關(guān)技能并在網(wǎng)上發(fā)布作品。很快，肖某聯(lián)系他制作用于電話卡實名認證的AI合成人臉動態(tài)視頻。在利益誘惑下，明知可能違法的陳某接下了“訂單”。

隨著偵查深入，一條“技術(shù)+物流”的新型犯罪鏈浮出水面：陳某和肖某等人從網(wǎng)絡(luò)黑市非法獲取大量公民高清身份證照片，利用AI換臉工具制成包含眨眼、張嘴等活體動作的動態(tài)視頻，輔以無人直播插件騙過電信運營商人臉核驗系統(tǒng)，非法激活電話卡；負責快遞轉(zhuǎn)運的李某、華某（已另案判決）通過電商平臺批量購買電話卡，利用快遞中途改址或?qū)Ｈ宿D(zhuǎn)寄等方式“洗白”運輸痕跡；秦某則當起“中間商”，把激活的電話卡以450元到550元一張的價格賣給卡商，最終流入詐騙團伙手中。

“整個團伙分工明確，像一條高效生產(chǎn)線?！鞭k案檢察官趙小霞介紹，技術(shù)組制作“人臉通行證”，物流組洗白痕跡，秦某則作為樞紐連接買賣雙方，串聯(lián)整條犯罪鏈。警方在陳某電腦中查獲1098條居民身份證信息及200余張電話卡，經(jīng)與國家反詐平臺數(shù)據(jù)比對，其中23張卡直接關(guān)聯(lián)35起詐騙案，涉案金額達293萬余元。

經(jīng)查，一年時間，陳某、肖某、秦某這一3人小團伙就激活販賣電話卡368張，造成群眾財產(chǎn)損失超600萬元。

檢警聯(lián)手鎖定關(guān)鍵證據(jù)

在南漳縣公安局物證室內(nèi)，10余臺電腦主機、20余部手機和成捆的電話卡靜靜陳列著。面對犯罪團伙使用境外加密聊天軟件聯(lián)絡(luò)、虛擬貨幣交易結(jié)算等反偵查手段，2024年7月，南漳縣檢察院依法介入該案，在電子證據(jù)固定方面引導公安機關(guān)對查扣的電子設(shè)備展開三重勘驗，提取加密聊天記錄、復原AI操作痕跡、追蹤虛擬貨幣流向，構(gòu)建起完整證據(jù)閉環(huán)。

為證實技術(shù)幫助與詐騙結(jié)果的關(guān)聯(lián)性，檢察官列出23項補充偵查提綱。公安機關(guān)通過國家反詐平臺對涉案電話卡逐張比對，鎖定54張卡直接用于實施詐騙，將上游技術(shù)幫助行為與下游詐騙造成的巨額損失緊密關(guān)聯(lián)。同時，檢察機關(guān)在審查中發(fā)現(xiàn)李某、華某等同案漏犯線索后，依法監(jiān)督公安機關(guān)追訴，力求徹底摧毀犯罪網(wǎng)絡(luò)。

守好數(shù)字時代群眾“臉面”安全

今年4月，這起由南漳縣檢察院提起公訴的幫助信息網(wǎng)絡(luò)犯罪活動案宣判，陳某被判處有期徒刑一年二個月，并處罰金5000元；肖某被判處有期徒刑一年，并處罰金5000元；秦某被判處有期徒刑一年八個月，并處罰金1萬元，涉案工具和違法所得被依法處理。

該案查獲的1183張居民身份證照片大多源于網(wǎng)絡(luò)泄露?！斑@些身份證照片一旦被用于AI技術(shù)激活電話卡，就成了詐騙工具?！鞭k案檢察官解釋，詐騙分子用這些“實名”電話卡冒充客服、公檢法人員，實施精準詐騙。

檢察官提醒廣大市民，要保護好個人身份信息，切勿隨意上傳手持身份證照片或視頻；定期通過運營商官方渠道查詢自己名下的電話卡，若發(fā)現(xiàn)信息被冒用或遭遇可疑詐騙，要及時保留證據(jù)并報警。

2024年2月17日，檢察官在老年大學開展反詐宣傳。

●違法濫用AI換臉技術(shù)面臨哪些刑事法律風險？

在使用AI換臉技術(shù)時，非法收集、使用或泄露他人的人臉信息等敏感個人信息的，可能會構(gòu)成侵犯公民個人信息罪；

制作嘲諷或丑化他人的換臉視頻，實施網(wǎng)絡(luò)欺凌或者發(fā)布侮辱性內(nèi)容的，可能構(gòu)成侮辱罪；

利用AI換臉技術(shù)制作、傳播含有淫穢內(nèi)容的視頻或圖片的，可能構(gòu)成制作、傳播淫穢物品牟利罪或傳播淫穢物品罪；

利用AI換臉技術(shù)偽造他人身份，通過視頻通話等方式實施詐騙，騙取他人財物的，可能構(gòu)成詐騙罪；

利用AI換臉技術(shù)，幫助網(wǎng)約車司機繞開平臺的人臉驗證機制，實現(xiàn)隨意注冊新賬號或者使用他人賬號接單的非法目的，可能構(gòu)成提供侵入、非法控制計算機信息系統(tǒng)程序、工具罪。

●AI偽造風險識別與防范

動作驗證法：當視頻中對方（尤其是涉及轉(zhuǎn)賬、借錢等敏感要求時）顯得有點“怪”，別急著答應(yīng)。請對方做一個連貫的轉(zhuǎn)頭動作，或者用手掌完全遮住臉再快速移開。目前的AI技術(shù)在模擬這些復雜的面部遮擋和光影變化時，容易出現(xiàn)卡頓、模糊或扭曲。

聲音細節(jié)辨真?zhèn)危鹤屑毬犝Z音細節(jié)。AI生成的語音有時會缺乏自然的呼吸停頓、情感起伏，或者帶有輕微的機械感、背景雜音異常。

多渠道核實身份：涉及金錢交易或敏感信息時，務(wù)必通過其他可靠途徑二次確認。比如，問一些只有對方知道的問題，掛斷視頻后直接撥打?qū)Ψ匠Ｓ们夷闶煜さ碾娫捥柎a（不要回撥可疑來電號碼），或者通過共同認識的第三人進行側(cè)面核實。這是最核心的一招！

（來源：檢察日報·明鏡周刊 作者：戴小巍 邱天 尹周航）