你最近有沒有看到過這樣的視頻

“大家好，我是你們的嬋寶

今天有事請大家?guī)兔?/strong>

嬋妹就想著幫助媽媽

讓家里的生活過得更好一點

同時把老家的土雞蛋

分享給粉絲們嘗嘗……”

在短視頻平臺

充斥著多個利用AI仿冒

奧運冠軍全紅嬋聲音

帶貨土雞蛋的視頻

其中一個視頻

點贊量高達1.1萬

評論區(qū)顯示

大量粉絲誤以為

這就是全紅嬋本人

紛紛下單購買鏈接中的雞蛋

該商品鏈接顯示已售出4.7萬件

今年4月，全紅嬋家人

曾向媒體證實

全紅嬋并未給相關(guān)農(nóng)產(chǎn)品

代言或授權(quán)

除全紅嬋外

奧運冠軍孫穎莎和王楚欽

也遭遇了同樣的仿冒

在這看似匪夷所思的操作背后

其實隱藏著另一個灰色產(chǎn)業(yè)鏈

據(jù)網(wǎng)絡(luò)安全專家潘季明介紹，通過仿冒名人進行直播，不僅可以誘騙粉絲打賞獲利，還可將一個小白賬號迅速打造成上萬粉絲的賬號，從而為后續(xù)牟利來鋪路。

央視新聞記者調(diào)查發(fā)現(xiàn)

配音演員被AI克隆侵權(quán)的案例

同樣頻繁發(fā)生

AI克隆聲音

是如何實現(xiàn)以假亂真的？

又是誰

在為“盜取聲音”而推波助瀾？

網(wǎng)絡(luò)安全專家潘季明介紹，基于開源的語音大模型，只需一段清晰的語音樣本，任何人的聲音都可能在極短時間內(nèi)被克隆，并能被操縱說出攻擊者設(shè)定的任意內(nèi)容。

潘季明表示，除了侵犯聲音權(quán)等合法權(quán)益，AI克隆聲音目前最大的隱患是被詐騙分子利用，一旦與AI換臉等技術(shù)結(jié)合，生成高度逼真的“數(shù)字人”實施詐騙，危害將非常嚴重。潘季明建議，目前相關(guān)的技術(shù)要從源頭進行相應(yīng)限制，在開源過程中需對代碼的使用時長、應(yīng)用場景等做具體限制。

從“一聽就假”到“真假難辨”

AI克隆技術(shù)的濫用

不僅嚴重侵犯了當(dāng)事者的權(quán)益

而且還涉嫌違法違規(guī)

據(jù)法律專家介紹

我國民法典將人格權(quán)獨立成編

首次以立法形式

將保護“聲音”寫入其中

在第1023條中明確

對自然人聲音的保護

參照適用肖像權(quán)保護的有關(guān)規(guī)定

針對目前網(wǎng)絡(luò)上

AI克隆聲音的相關(guān)內(nèi)容

被大量傳播

平臺是否也應(yīng)承擔(dān)相應(yīng)責(zé)任？

此類亂象該如何治理？

專家建議，針對濫用AI克隆聲音的亂象，平臺層面要切實履行監(jiān)管責(zé)任，建立健全對AI聲音的審核和侵權(quán)舉報機制，及時發(fā)現(xiàn)和攔截侵權(quán)、虛假、違法等不良內(nèi)容。

今年3月，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標識辦法》，將于2025年9月1日起施行，其中明確了服務(wù)提供者應(yīng)當(dāng)對文本、音頻、圖片、視頻、虛擬場景等生成合成內(nèi)容添加顯式標識等。

另外，中央網(wǎng)信辦近日在全國范圍內(nèi)部署開展“清朗·整治AI技術(shù)濫用”專項行動，將強化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序，推動網(wǎng)站平臺提升檢測鑒偽能力等。

滬團團來送福利啦！青春上海獨家精美徽章共3款，你心動了嗎？

想要想要！如何才能獲得呢？

點亮本文文末【】與【】，并在評論區(qū)留言互動；當(dāng)【】數(shù)達到200時，評論點贊第一的小伙伴將免費獲得一套徽章喲~

來源：人民網(wǎng)、央視新聞

見習(xí)編輯：孟祥莉

校審： 姚佳森

終審： 沈蔚

網(wǎng)絡(luò)并非法外之地！↓↓↓