“大家好，我是你們的嬋寶

今天有事請(qǐng)大家?guī)兔?/strong>

嬋妹就想著幫助媽媽

讓家里的生活過得更好一點(diǎn)

同時(shí)把老家的土雞蛋

分享給粉絲們嘗嘗……”

在短視頻平臺(tái)

充斥著多個(gè)利用AI仿冒

奧運(yùn)冠軍全紅嬋聲音

帶貨土雞蛋的視頻

其中一個(gè)

視頻點(diǎn)贊量高達(dá)1.1萬

評(píng)論區(qū)顯示

大量粉絲誤以為

這就是全紅嬋本人

紛紛下單購買鏈接中的雞蛋

該商品鏈接顯示已售出4.7萬件

今年4月，全紅嬋家人

曾向媒體證實(shí)

全紅嬋并未給相關(guān)農(nóng)產(chǎn)品

代言或授權(quán)

除全紅嬋外

奧運(yùn)冠軍孫穎莎和王楚欽

也遭遇了同樣的仿冒

在這看似匪夷所思的操作背后

其實(shí)隱藏著另一個(gè)灰色產(chǎn)業(yè)鏈

據(jù)網(wǎng)絡(luò)安全專家潘季明介紹，通過仿冒名人進(jìn)行直播，不僅可以誘騙粉絲打賞獲利，還可將一個(gè)小白賬號(hào)迅速打造成上萬粉絲的賬號(hào)，從而為后續(xù)牟利來鋪路。

記者調(diào)查發(fā)現(xiàn)

配音演員被AI克隆侵權(quán)的案例

同樣頻繁發(fā)生

AI克隆聲音

是如何實(shí)現(xiàn)以假亂真的？

又是誰

在為“盜取聲音”而推波助瀾？

網(wǎng)絡(luò)安全專家潘季明介紹，基于開源的語音大模型，只需一段清晰的語音樣本，任何人的聲音都可能在極短時(shí)間內(nèi)被克隆，并能被操縱說出攻擊者設(shè)定的任意內(nèi)容。

潘季明表示，除了侵犯聲音權(quán)等合法權(quán)益，AI克隆聲音目前最大的隱患是被詐騙分子利用，一旦與AI換臉等技術(shù)結(jié)合，生成高度逼真的“數(shù)字人”實(shí)施詐騙，危害將非常嚴(yán)重。潘季明建議，目前相關(guān)的技術(shù)要從源頭進(jìn)行相應(yīng)限制，在開源過程中需對(duì)代碼的使用時(shí)長、應(yīng)用場景等做具體限制。

從“一聽就假”到“真假難辨”

AI克隆技術(shù)的濫用

不僅嚴(yán)重侵犯了當(dāng)事者的權(quán)益

而且還涉嫌違法違規(guī)

據(jù)法律專家介紹

我國民法典將人格權(quán)獨(dú)立成編

首次以立法形式

將保護(hù)“聲音”寫入其中

在第1023條中明確

對(duì)自然人聲音的保護(hù)

參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定

針對(duì)目前網(wǎng)絡(luò)上

AI克隆聲音的相關(guān)內(nèi)容

被大量傳播

平臺(tái)是否也應(yīng)承擔(dān)相應(yīng)責(zé)任？

此類亂象該如何治理？

專家建議，針對(duì)濫用AI克隆聲音的亂象，平臺(tái)層面要切實(shí)履行監(jiān)管責(zé)任，建立健全對(duì)AI聲音的審核和侵權(quán)舉報(bào)機(jī)制，及時(shí)發(fā)現(xiàn)和攔截侵權(quán)、虛假、違法等不良內(nèi)容。

今年3月，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，將于2025年9月1日起施行，其中明確了服務(wù)提供者應(yīng)當(dāng)對(duì)文本、音頻、圖片、視頻、虛擬場景等生成合成內(nèi)容添加顯式標(biāo)識(shí)等。

另外，中央網(wǎng)信辦近日在全國范圍內(nèi)部署開展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，將強(qiáng)化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序，推動(dòng)網(wǎng)站平臺(tái)提升檢測鑒偽能力等。

本文轉(zhuǎn)載自『人民網(wǎng)』微信公眾號(hào)，來源：央視新聞

● 參與活動(dòng)