利用AI技術(shù)合成人臉動(dòng)態(tài)視頻

騙過(guò)電信運(yùn)營(yíng)商人臉核驗(yàn)系統(tǒng)

非法激活電話卡

這個(gè)3人團(tuán)伙分工明確

一年間

造成群眾財(cái)產(chǎn)損失超600萬(wàn)元

“當(dāng)心！假親人、假領(lǐng)導(dǎo)可能正盯著你的錢包！”7月17日、18日，湖北省南漳縣檢察院干警與縣公安局民警連續(xù)兩天深入社區(qū)、走進(jìn)養(yǎng)老院、來(lái)到快遞站，輪番播放反詐微視頻，揭露“AI換臉”這一新型詐騙的作案手法與防范要點(diǎn)。

“00后”自學(xué)AI換臉技術(shù)

2024年5月，南漳縣公安局接到廣州市公安機(jī)關(guān)移交的一條侵犯公民個(gè)人信息線索。根據(jù)線索，南漳縣公安局找到了涉嫌利用AI技術(shù)合成人臉動(dòng)態(tài)視頻的陳某。

陳某是一名“00后”，原本靠打游戲、做代練謀生，因?qū)I換臉技術(shù)感興趣，自學(xué)相關(guān)技能并在網(wǎng)上發(fā)布作品。很快，肖某聯(lián)系他制作用于電話卡實(shí)名認(rèn)證的AI合成人臉動(dòng)態(tài)視頻。在利益誘惑下，明知可能違法的陳某接下了“訂單”。

隨著偵查深入，一條“技術(shù)+物流”的新型犯罪鏈浮出水面：陳某和肖某等人從網(wǎng)絡(luò)黑市非法獲取大量公民高清身份證照片，利用AI換臉工具制成包含眨眼、張嘴等活體動(dòng)作的動(dòng)態(tài)視頻，輔以無(wú)人直播插件騙過(guò)電信運(yùn)營(yíng)商人臉核驗(yàn)系統(tǒng)，非法激活電話卡；負(fù)責(zé)快遞轉(zhuǎn)運(yùn)的李某、華某（已另案判決）通過(guò)電商平臺(tái)批量購(gòu)買電話卡，利用快遞中途改址或?qū)Ｈ宿D(zhuǎn)寄等方式“洗白”運(yùn)輸痕跡；秦某則當(dāng)起“中間商”，把激活的電話卡以450元到550元一張的價(jià)格賣給卡商，最終流入詐騙團(tuán)伙手中。

“整個(gè)團(tuán)伙分工明確，像一條高效生產(chǎn)線。”辦案檢察官趙小霞介紹，技術(shù)組制作“人臉通行證”，物流組洗白痕跡，秦某則作為樞紐連接買賣雙方，串聯(lián)整條犯罪鏈。警方在陳某電腦中查獲1098條居民身份證信息及200余張電話卡，經(jīng)與國(guó)家反詐平臺(tái)數(shù)據(jù)比對(duì)，其中23張卡直接關(guān)聯(lián)35起詐騙案，涉案金額達(dá)293萬(wàn)余元。

經(jīng)查，一年時(shí)間，陳某、肖某、秦某這一3人小團(tuán)伙就激活販賣電話卡368張，造成群眾財(cái)產(chǎn)損失超600萬(wàn)元。

檢警聯(lián)手鎖定關(guān)鍵證據(jù)

在南漳縣公安局物證室內(nèi)，10余臺(tái)電腦主機(jī)、20余部手機(jī)和成捆的電話卡靜靜陳列著。面對(duì)犯罪團(tuán)伙使用境外加密聊天軟件聯(lián)絡(luò)、虛擬貨幣交易結(jié)算等反偵查手段，2024年7月，南漳縣檢察院依法介入該案，在電子證據(jù)固定方面引導(dǎo)公安機(jī)關(guān)對(duì)查扣的電子設(shè)備展開(kāi)三重勘驗(yàn)，提取加密聊天記錄、復(fù)原AI操作痕跡、追蹤虛擬貨幣流向，構(gòu)建起完整證據(jù)閉環(huán)。

為證實(shí)技術(shù)幫助與詐騙結(jié)果的關(guān)聯(lián)性，檢察官列出23項(xiàng)補(bǔ)充偵查提綱。公安機(jī)關(guān)通過(guò)國(guó)家反詐平臺(tái)對(duì)涉案電話卡逐張比對(duì)，鎖定54張卡直接用于實(shí)施詐騙，將上游技術(shù)幫助行為與下游詐騙造成的巨額損失緊密關(guān)聯(lián)。同時(shí)，檢察機(jī)關(guān)在審查中發(fā)現(xiàn)李某、華某等同案漏犯線索后，依法監(jiān)督公安機(jī)關(guān)追訴，力求徹底摧毀犯罪網(wǎng)絡(luò)。

守好數(shù)字時(shí)代群眾“臉面”安全

今年4月，這起由南漳縣檢察院提起公訴的幫助信息網(wǎng)絡(luò)犯罪活動(dòng)案宣判，陳某被判處有期徒刑一年二個(gè)月，并處罰金5000元；肖某被判處有期徒刑一年，并處罰金5000元；秦某被判處有期徒刑一年八個(gè)月，并處罰金1萬(wàn)元，涉案工具和違法所得被依法處理。

該案查獲的1183張居民身份證照片大多源于網(wǎng)絡(luò)泄露?！斑@些身份證照片一旦被用于AI技術(shù)激活電話卡，就成了詐騙工具?！鞭k案檢察官解釋，詐騙分子用這些“實(shí)名”電話卡冒充客服、公檢法人員，實(shí)施精準(zhǔn)詐騙。

檢察官提醒廣大市民，要保護(hù)好個(gè)人身份信息，切勿隨意上傳手持身份證照片或視頻；定期通過(guò)運(yùn)營(yíng)商官方渠道查詢自己名下的電話卡，若發(fā)現(xiàn)信息被冒用或遭遇可疑詐騙，要及時(shí)保留證據(jù)并報(bào)警。

2024年2月17日，檢察官在老年大學(xué)開(kāi)展反詐宣傳。

●違法濫用AI換臉技術(shù)面臨哪些刑事法律風(fēng)險(xiǎn)？

在使用AI換臉技術(shù)時(shí)，非法收集、使用或泄露他人的人臉信息等敏感個(gè)人信息的，可能會(huì)構(gòu)成侵犯公民個(gè)人信息罪；

制作嘲諷或丑化他人的換臉視頻，實(shí)施網(wǎng)絡(luò)欺凌或者發(fā)布侮辱性內(nèi)容的，可能構(gòu)成侮辱罪；

利用AI換臉技術(shù)制作、傳播含有淫穢內(nèi)容的視頻或圖片的，可能構(gòu)成制作、傳播淫穢物品牟利罪或傳播淫穢物品罪；

利用AI換臉技術(shù)偽造他人身份，通過(guò)視頻通話等方式實(shí)施詐騙，騙取他人財(cái)物的，可能構(gòu)成詐騙罪；

利用AI換臉技術(shù)，幫助網(wǎng)約車司機(jī)繞開(kāi)平臺(tái)的人臉驗(yàn)證機(jī)制，實(shí)現(xiàn)隨意注冊(cè)新賬號(hào)或者使用他人賬號(hào)接單的非法目的，可能構(gòu)成提供侵入、非法控制計(jì)算機(jī)信息系統(tǒng)程序、工具罪。

●AI偽造風(fēng)險(xiǎn)識(shí)別與防范

動(dòng)作驗(yàn)證法：當(dāng)視頻中對(duì)方（尤其是涉及轉(zhuǎn)賬、借錢等敏感要求時(shí)）顯得有點(diǎn)“怪”，別急著答應(yīng)。請(qǐng)對(duì)方做一個(gè)連貫的轉(zhuǎn)頭動(dòng)作，或者用手掌完全遮住臉再快速移開(kāi)。目前的AI技術(shù)在模擬這些復(fù)雜的面部遮擋和光影變化時(shí)，容易出現(xiàn)卡頓、模糊或扭曲。

聲音細(xì)節(jié)辨真?zhèn)危鹤屑?xì)聽(tīng)語(yǔ)音細(xì)節(jié)。AI生成的語(yǔ)音有時(shí)會(huì)缺乏自然的呼吸停頓、情感起伏，或者帶有輕微的機(jī)械感、背景雜音異常。

多渠道核實(shí)身份：涉及金錢交易或敏感信息時(shí)，務(wù)必通過(guò)其他可靠途徑二次確認(rèn)。比如，問(wèn)一些只有對(duì)方知道的問(wèn)題，掛斷視頻后直接撥打?qū)Ψ匠Ｓ们夷闶煜さ碾娫捥?hào)碼（不要回?fù)芸梢蓙?lái)電號(hào)碼），或者通過(guò)共同認(rèn)識(shí)的第三人進(jìn)行側(cè)面核實(shí)。這是最核心的一招！

（檢察日?qǐng)?bào) 戴小巍 邱天 尹周航）