9月1日起，AI生成內(nèi)容必須依法打上“電子水印”。

今年3月，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標識辦法》（以下簡稱《標識辦法》）。《標識辦法》指出，利用人工智能技術(shù)生成的文本、圖片、音頻、視頻、虛擬場景等信息，必須添加顯式和隱式兩種標識。顯式標識指可以被用戶明顯感知到的標識，隱式標識指在生成內(nèi)容的數(shù)據(jù)中添加的標識。

標識AI生成內(nèi)容，內(nèi)容發(fā)布者負主要責任

澎湃新聞梳理社交媒體平臺相關(guān)用戶協(xié)議發(fā)現(xiàn)，B站、抖音、微博、小紅書等平臺要求內(nèi)容發(fā)布者主動標識AI生成內(nèi)容。對于不主動標識AI生成內(nèi)容的行為，部分平臺采取了限流、下架內(nèi)容、封號等措施。抖音還對未主動標識AI生成內(nèi)容的行為，采取取消營利、抹除粉絲等措施。

此外，大部分平臺對未標識的AI生成內(nèi)容采取了“自動標記”的補漏措施，但實際效果差強人意。記者使用“AI圖像”在各平臺檢索后，依然能夠找到大量未標示的AI生成內(nèi)容。值得一提的是，部分平臺對AI標識的有關(guān)規(guī)定，最早可以追溯到《標識辦法》出臺前。這意味著很多平臺在治理AI生成內(nèi)容標識上做了長期的實踐和探索，僅依靠平臺規(guī)則和防范機制，很難完全規(guī)避未標示AI生成內(nèi)容的傳播。廣東財經(jīng)大學法學院教授姚志偉在接受南都記者采訪時表示，新規(guī)對內(nèi)容傳播平臺提出的技術(shù)要求較高，中小內(nèi)容平臺能否有效落地執(zhí)行還需觀察。

內(nèi)容發(fā)布者不主動標識AI生成內(nèi)容的原因是多種多樣的，但本質(zhì)還是想吃到AI內(nèi)容帶來的流量以及起號、變現(xiàn)紅利。一項關(guān)于深度偽造內(nèi)容AI標識對用戶態(tài)度及轉(zhuǎn)發(fā)意愿影響的研究指出，內(nèi)容發(fā)布者的標識提醒能夠有效激發(fā)用戶對深度偽造內(nèi)容的識別和處理，但會降低用戶對發(fā)布內(nèi)容的態(tài)度和分享意愿。

平臺對AI生成內(nèi)容可以說是“又愛又恨”。一方面，AI生成內(nèi)容是熱門內(nèi)容創(chuàng)作賽道，抖音、小紅書等平臺都推出了扶持AI內(nèi)容創(chuàng)作的計劃，給與AI生成內(nèi)容流量傾斜和推廣；另一方面，一些用戶在使用AI起號、做號時沒有底線思維，傳播謠言、虛假信息、色情擦邊內(nèi)容的違規(guī)行為屢禁不止。

造謠、擦邊、換臉是AI濫用的重災區(qū)

2025年4月，中央網(wǎng)信辦開展了為期3個月的“清朗·整治AI技術(shù)濫用”專項行動。上海市委網(wǎng)信辦指導小紅書、嗶哩嗶哩、拼多多等15家重點網(wǎng)站平臺，共攔截清理相關(guān)違法違規(guī)信息82萬余條，處置違規(guī)賬號1400余個，下線違規(guī)智能體2700余個。經(jīng)整治，網(wǎng)絡違規(guī)AI信息顯著減少。

澎湃新聞統(tǒng)計B站、小紅書、微博發(fā)布的“清朗·整治AI技術(shù)濫用”治理周報典型案例發(fā)現(xiàn)，虛假宣傳（謠言）、低俗擦邊、違規(guī)營銷推廣AI產(chǎn)品信息（AI換臉、換聲等）是各平臺比較突出的共性問題。此外，B站在AI技術(shù)濫用的治理重點中還將以下內(nèi)容列為違規(guī)內(nèi)容，包括AI生成國際軍事虛假內(nèi)容、AI生成低俗獵奇視頻、AI生成虛擬外國幼兒教育專家教授育兒內(nèi)容、AI生成歷史人物穿越、AI大模型助考/高考押題預測等。

據(jù)網(wǎng)信上海消息，通過政策指導、生態(tài)協(xié)同與技術(shù)落地，稀宇科技、階躍星辰、通義、小紅書、嗶哩嗶哩、Soul等已基本完成顯式標識規(guī)范上線，加快開發(fā)上線隱式標識和傳播鏈互認驗證，小紅書牽頭編制圖片模態(tài)元數(shù)據(jù)標識實踐指南，上海標識工作取得階段性成效。