逆天，現(xiàn)在AI換臉騙過人臉識(shí)別系統(tǒng)的操作，已經(jīng)越來越猖狂了。

就前段時(shí)間的事情，南京那邊發(fā)生了一起詐騙案。

嫌疑人先是收集了195萬多條別人的姓名、照片啥的，然后用AI換臉軟件，繞過了某個(gè)金融支付平臺(tái)的人臉識(shí)別系統(tǒng)，一頓操作猛如虎，最后得手一萬五。

195萬多條隱私信息，最后只黑了一萬五，看上去這哥們好像還挺有良心。

但重點(diǎn)是，他試圖繞過人臉識(shí)別系統(tǒng)的行為，最后竟然得逞了。

哥幾個(gè)也別掉以輕心，因?yàn)檫@種倒霉催的事情，你是真不知道哪天會(huì)不會(huì)讓自己給碰上了。。。

大概兩個(gè)多月前，自媒體博主@遠(yuǎn)方青木發(fā)文，說自己有個(gè)60萬粉絲的小號(hào)突然開始大量群發(fā)詐騙信息。不查不知道，一查發(fā)現(xiàn)不光賬號(hào)密碼被改了，就連公司法人都被換了。

沒多久，@表舅是養(yǎng)基大戶也發(fā)現(xiàn)，自己平時(shí)寫美股的賬號(hào)，給粉絲推了股市殺豬盤的引流廣子。

再后來是@秦小明、@貓筆刀，這些賬號(hào)都有類似的遭遇：公司法人變了，賬號(hào)被盜了，然后粉絲也差點(diǎn)讓人騙了。

所以，如果哪天突然收到差評(píng)給你推薦穩(wěn)賺不賠的股票，千萬別信，要真有那信息差，那不得差友每人一根金條？（這也別信

這次財(cái)經(jīng)大V集體被盜號(hào)，世超仔細(xì)捋了捋各家的聲明，幾乎都提到了，法人變更，跟人臉識(shí)別系統(tǒng)有關(guān)。

昨天偷你的錢，今天換公司法人，明天不知道會(huì)不會(huì)盯上世超公積金賬戶里那三瓜兩棗。

世超這次找網(wǎng)絡(luò)安全這塊比較懂行的哥們聊了聊，才知道人臉識(shí)別技術(shù)，真沒有咱們想象當(dāng)中那么靠譜。

甚至有些人臉識(shí)別系統(tǒng)的算法粗糙到，不需要AI出馬，就能輕而易舉繞過去。

人臉識(shí)別系統(tǒng)的工作原理很簡單，先用攝像頭找到你的臉在哪，然后扒五官細(xì)節(jié)，把你這張臉，翻譯成計(jì)算機(jī)能看懂的數(shù)據(jù)之后，再拿數(shù)據(jù)去跟你本人的信息比對(duì)。

這套流程，有兩個(gè)很關(guān)鍵的地方，一個(gè)是數(shù)據(jù)怎么來，以及算法怎么處理這些數(shù)據(jù)。

數(shù)據(jù)怎么來？看攝像頭。

像平時(shí)比較常見的小區(qū)門禁、公司考勤機(jī)器，用的多是2D人臉識(shí)別技術(shù)，是平面、靜態(tài)的。

優(yōu)點(diǎn)是便宜，但安全性就不好說了，一張高分辨率的照片或者視頻就可能糊弄過去。

相比之下，3D人臉識(shí)別技術(shù)要比2D更安全。

像一些金融和政務(wù)服務(wù)，都會(huì)用到3D人臉識(shí)別技術(shù)，甚至還會(huì)疊加2D、3D、紅外等好幾個(gè)多模態(tài)的Buff。

不過問題又來了，如果這張臉是AI精心打扮過的呢？

網(wǎng)絡(luò)安全業(yè)內(nèi)人士傲客告訴世超，大概在2017年，就已經(jīng)有人用GAN（生成對(duì)抗網(wǎng)絡(luò)）來攻擊人臉識(shí)別系統(tǒng)了，這么多年來一直沒消停過。

生成式AI，更是讓騙子狂得有點(diǎn)不知天地為何物。10分鐘騙走430萬，冒充公司CFO詐騙將近2億元。。。再加上開頭提到的那些案例，用偽造好的AI換臉視頻和面具騙過攝像頭，已經(jīng)是比較常見的欺騙手法了。

就算加了讓你搖搖頭、張個(gè)嘴的活體檢測，AI換臉的視頻同樣也有概率能繞過去。

至于原因，世超覺著跟系統(tǒng)的工作原理脫不了干系。

根據(jù)傲客的說法，系統(tǒng)不光會(huì)在收集人臉數(shù)據(jù)的時(shí)候出岔子，數(shù)據(jù)處理、使用還有存儲(chǔ)環(huán)節(jié)，同樣也有漏洞。

傲客給世超舉了個(gè)，當(dāng)年牛奶里摻了三聚氰胺的例子。機(jī)器檢測牛奶里蛋白質(zhì)含量的方法，是檢測牛奶里的氮元素含量，而三聚氰胺的氮含量高還便宜，機(jī)器才不管你這玩意兒人喝了有沒有毒。

對(duì)應(yīng)到人臉識(shí)別上也一樣，算法只認(rèn)可以被測量的指標(biāo)，那你只需要取巧，在這些指標(biāo)上作弊就行。

一個(gè)離譜的例子，卡內(nèi)基梅隆大學(xué)幾年前做過實(shí)驗(yàn)，帶上特異花紋的眼鏡之后，人臉識(shí)別系統(tǒng)把A識(shí)別成B的概率有80%以上，就因?yàn)檫@個(gè)花紋是專門針對(duì)漏洞設(shè)計(jì)的。

還有研究人員，向系統(tǒng)展示了一個(gè)帶有攻擊指令的二維碼，結(jié)果系統(tǒng)按照既定流程對(duì)數(shù)據(jù)進(jìn)行了處理，連人臉都不是，最終還匹配成功了。

這就好比，AI換臉是偽裝成住戶騙保安，“二維碼”“花紋眼鏡”則是偷偷溜進(jìn)了安保中心，對(duì)監(jiān)控動(dòng)手腳。

而且這安保大隊(duì)的水平，也是參差不齊。

香港中文大學(xué)兩年前做過研究，18000個(gè)App里，有373個(gè)用了有安全漏洞的人臉識(shí)別模組，好死不死這373個(gè)里，還有將近四成都是金融類的App。。。

更別提有點(diǎn)手段的，能直接上后臺(tái)把住戶信息都給篡改了。

反正一句話總結(jié)就是，人臉識(shí)別并不是一項(xiàng)百分之一百安全的技術(shù)。

甚至圍繞人臉識(shí)別技術(shù)，還衍生出了見不得光的產(chǎn)業(yè)。

也是今年的事，有被封號(hào)的網(wǎng)約車司機(jī)用“虛擬相機(jī)”的App，繞過了網(wǎng)約車平臺(tái)的人臉識(shí)別系統(tǒng)，那會(huì)兒有媒體報(bào)道過，國內(nèi)的一些社交、電商平臺(tái)，有不少宣稱可以繞過人臉識(shí)別系統(tǒng)的服務(wù)。

另外根據(jù)貝殼財(cái)經(jīng)的報(bào)道，有些黑產(chǎn)人員膽子還特別大，直接把能過哪些政務(wù)平臺(tái)，擺到了明面上。

說不擔(dān)心是假的，主要現(xiàn)在動(dòng)不動(dòng)就要刷臉，這玩意兒他喵的還沒法兒改密碼，唯一的方法只有回娘胎重造。。

不過好在，今年國家已經(jīng)出手了，把人臉識(shí)別技術(shù)濫用的現(xiàn)狀往回拉一拉。

當(dāng)然在技術(shù)的攻防上，很多支付、金融服務(wù)的人臉識(shí)別系統(tǒng)和工程師，也不是吃干飯的。

就比如在輸入環(huán)節(jié)做交叉驗(yàn)證，3D結(jié)構(gòu)光負(fù)責(zé)建模，紅外看看有沒有真人的溫度。。。這法子雖說不能百分百杜絕攻擊，但至少偽造的成本上去了。

還有用魔法打敗魔法，比如去年螞蟻數(shù)科發(fā)了個(gè)ZOLOZ Deeper，對(duì)AI換臉重拳出擊。國外像RealAI和Reality Defender，同樣也有檢測深度偽造的技術(shù)。

總的來說，圍繞人臉識(shí)別的攻和防，這么多年一直都是此消彼長，那些黑產(chǎn)也跟蟑螂似的，總能找到陰暗的角落瘋狂生長。

咱們沒法兒置身事外，但至少長個(gè)心眼，別把自己這張臉輕易交出去。

撰文：西西

編輯：江江&面線

美編：煥妍

圖片、資料來源：

部分內(nèi)容由受訪人提供

多位財(cái)經(jīng)自媒體博主的微信公眾號(hào)、小紅書

貝殼財(cái)經(jīng)，560元包過人臉！財(cái)經(jīng)大V被換法人 起底“代過人臉識(shí)別”灰產(chǎn)

部分圖源網(wǎng)絡(luò)