你刷到過

全紅嬋、孫穎莎、王楚欽

賣土雞蛋的視頻嗎？

別信

那都是假的

近日，媒體曝光了不法商家利用AI技術(shù)仿冒奧運(yùn)冠軍形象、聲音，推銷土雞蛋等農(nóng)產(chǎn)品的違法行為。

近日

江蘇省消費(fèi)者權(quán)益保護(hù)委員會(huì)

發(fā)文指出

該行為已觸碰法律與道德雙重底線

在短視頻平臺(tái)上，除奧運(yùn)冠軍被仿冒，部分明星、企業(yè)家等人的聲音也都曾被AI仿冒用于直播帶貨、推廣產(chǎn)品或制造虛假互動(dòng)，還有不少AI生成的假神醫(yī)、非遺傳承人在帶貨，侵蝕著市場(chǎng)秩序與消費(fèi)者權(quán)益。

江蘇省消保委表示

AI仿冒名人聲音、虛構(gòu)名人形象帶貨等行為，嚴(yán)重侵犯被仿冒者的肖像權(quán)、聲音權(quán)等人格權(quán)益，擾亂公平競爭的市場(chǎng)秩序，阻礙市場(chǎng)健康發(fā)展，更透支了大批互聯(lián)網(wǎng)用戶的信任，直接損害消費(fèi)者的知情權(quán)、公平交易權(quán)等合法權(quán)益。

AI仿冒名人帶貨亂象為何屢禁不止？

江蘇省消保委分析認(rèn)為

三大原因共同催生了這一問題

AI技術(shù)普及降低造假門檻

隨著AI技術(shù)的快速發(fā)展，仿冒、克隆他人容貌和聲音的技術(shù)門檻和成本降低，網(wǎng)絡(luò)平臺(tái)上充斥著大量相關(guān)教程與資源，不法分子無需過高技術(shù)水平，即可實(shí)施侵權(quán)行為。

利益驅(qū)動(dòng)下商家鋌而走險(xiǎn)

當(dāng)前電商市場(chǎng)競爭激烈，而名人自帶的高流量與公眾信任度，能快速激發(fā)消費(fèi)者購買欲，部分商家為追求短期利益，不惜鋌而走險(xiǎn)，無視道德與法律約束。

平臺(tái)審核機(jī)制存在漏洞

部分短視頻平臺(tái)對(duì)賬號(hào)入駐資質(zhì)審核不嚴(yán)，且現(xiàn)有審核技術(shù)難以精準(zhǔn)識(shí)別AI生成的虛假內(nèi)容，導(dǎo)致仿冒視頻得以繞過監(jiān)管，大量傳播。

江蘇省消保委強(qiáng)調(diào)

科技本無善惡，關(guān)鍵在于如何使用。AI技術(shù)本是賦能生活、推動(dòng)發(fā)展的利器，用于提升服務(wù)效率、豐富消費(fèi)體驗(yàn)，但被別有用心之人濫用后，卻成為侵犯公民合法權(quán)益的“兇器”。智能向善，需以法律為底線，將道德倫理融入技術(shù)應(yīng)用的全過程。

目前

針對(duì)AI深度合成內(nèi)容

已有多項(xiàng)法律法規(guī)作出明確規(guī)范

• 《民法典》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等現(xiàn)行法律法規(guī)，均要求深度合成服務(wù)提供者自覺尊重公民肖像權(quán)、聲音權(quán)等合法權(quán)益；

• 今起實(shí)施的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，更明確了提供合成人聲、人臉生成、人臉替換等可能導(dǎo)致公眾混淆或誤認(rèn)的深度合成服務(wù)時(shí)，應(yīng)當(dāng)在生成或編輯的信息內(nèi)容合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。

江蘇消保委建議

平臺(tái)應(yīng)切實(shí)履行監(jiān)管職責(zé)，提升人工智能檢測(cè)技術(shù)，完善審核和舉報(bào)機(jī)制，及時(shí)發(fā)現(xiàn)并攔截侵權(quán)、虛假、違法等不良內(nèi)容，對(duì)于被舉報(bào)的侵權(quán)賬號(hào)，一旦核實(shí)，立即采取封號(hào)、限制流量等措施，并將相關(guān)情況報(bào)送監(jiān)管部門。若平臺(tái)疏于監(jiān)管，則應(yīng)依法承擔(dān)相應(yīng)責(zé)任。

?《民法典》相關(guān)條款指出，若平臺(tái)接到相關(guān)通知未采取必要措施的，應(yīng)對(duì)損害擴(kuò)大部分與實(shí)施侵權(quán)行為的網(wǎng)絡(luò)用戶承擔(dān)連帶責(zé)任；若平臺(tái)知道或應(yīng)當(dāng)知道網(wǎng)絡(luò)用戶利用其網(wǎng)絡(luò)服務(wù)侵害他人民事權(quán)益，未采取必要措施的，與該網(wǎng)絡(luò)用戶承擔(dān)連帶責(zé)任。

消費(fèi)者在面對(duì)名人聲音、形象推薦商品的視頻或直播活動(dòng)時(shí)，應(yīng)保持冷靜，仔細(xì)查看商品信息、評(píng)價(jià)等，不盲目跟風(fēng)購買、打賞。

若發(fā)現(xiàn)疑似AI仿冒名人帶貨、直播等情況，及時(shí)向平臺(tái)舉報(bào)或向相關(guān)監(jiān)管部門反映，當(dāng)自身權(quán)益因AI仿冒行為受到侵害時(shí)，積極運(yùn)用法律武器維護(hù)自身合法權(quán)益。

提醒

那么

消費(fèi)者該如何識(shí)別換臉破綻

并加以防范？

中國網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)委員張博表示，AI換臉技術(shù)如今已經(jīng)比較成熟，但還是有明顯破綻，漏洞就在面部輪廓和光線上。

張博表示：“視頻通話時(shí)，要仔細(xì)觀察對(duì)方的面部輪廓是否存在異常模糊情況、光線是否正常。必要時(shí)可以要求對(duì)方快速大幅度地抬頭、點(diǎn)頭、轉(zhuǎn)頭，然后在這個(gè)過程中仔細(xì)觀察面部輪廓是否有異常模糊。”

消費(fèi)者在選擇短視頻帶貨服務(wù)時(shí)要警惕AI仿冒技術(shù)，仔細(xì)觀察主播的微表情是否自然，聲音與口型是否同步，是否出現(xiàn)人物或背景模糊、扭曲等異常畫面，對(duì)異常低價(jià)或反常促銷行為應(yīng)保持警惕。

中國消費(fèi)者報(bào)新媒體編輯部出品

來源/中國消費(fèi)者報(bào)·中國消費(fèi)網(wǎng)

記者/薛晶晶

編輯/李曉雨

監(jiān)制/何永鵬 任震宇

互聯(lián)網(wǎng)新聞信息服務(wù)許可證：10120170022

違法和不良信息舉報(bào)電話：010 - 88315438