人工智能合成内容新規落地 互聯網平台紛紛響應：AI 生成内容不得 “隐身” 傳播

　　人工智能合成内容新規落地 互聯網平台紛紛響應：AI 生成内容不得 “隐身” 傳播

　　AI 生成内容不得 “隐身” 傳播。2025 年 9 月 1 日，國家網信辦等四部門聯合發布的《人工智能生成合成内容标識辦法》(以下簡稱《标識辦法》)正式施行，所有 AI 生成的文字、圖片、視頻等内容均須 “亮明身份”。新規落地之際，多家互聯網平台積極響應，相關用戶協議已修改升級，将嚴打對 AI 生成技術的濫用行為。

　　各社交平台更新用戶協議

　　“AI‘假孫子’總算現原形了。” 市民劉先生在 9 月 1 日打開一家短視頻平台時，驚喜地發現之前奶奶愛看的 “萌娃” 短視頻下面多了一行小字：“作者提示：内容為 AI 技術制作，虛構内容請謹慎甄别”。劉先生不禁感慨：“這下老人總該相信，這些一兩歲的孩子洗菜燒火都是假的了。”

　　這行提示小字的上線，與《标識辦法》的正式施行密切相關。該規定明确指出，利用人工智能技術生成的文本、圖片、音頻、視頻、虛拟場景等信息，必須添加顯式和隐式兩種标識。其中，顯式标識指可以被用戶明顯感知到的标識，例如文字水印、标簽、語音提示 “由 AI 生成” 等;隐式标識則是指在生成内容的數據中添加的标識，像是在文件元數據裡嵌入相關信息，雖不易被普通用戶察覺，但可用于内容溯源和平台監管。

　　《标識辦法》清晰地明确了生成合成内容制作傳播各主體的責任義務。服務提供者應在内容生成、傳播、下載等環節确保标識完整，從源頭上為内容打上 “身份烙印”;互聯網應用程序分發平台應仔細審核應用是否具備添加标識功能，把好應用上線的審核關;個人用戶發布生成内容時應主動聲明，對自己發布的内容負責。

　　新規落地後，各社交媒體平台迅速行動，相關用戶協議已紛紛更新。微信、視頻号、抖音、B 站、微博、小紅書等平台，均要求内容發布者以顯著方式主動标識 AI 生成内容。對于不主動标識 AI 生成内容的行為，部分平台明确表示會采取限流、下架、封号等措施，以嚴格規範平台内容生态。同時，部分社交平台還表示，将對可能是 AI 生成合成的内容進行相應提示，即便發布者未主動标識，平台也會借助算法等技術手段，對疑似 AI 生成内容打上 “疑似” 标簽，以便用戶清晰識别。

　　完善标識防範 AI 以假亂真

　　在 AI 技術快速發展，生成内容日益逼真的當下，給 AI 生成合成内容加上标識，為何需要單獨出台文件加以規制?實際上，标識制度的獨特制度價值已經成為國際共識。美國、新加坡、歐盟、英國等國家和地區紛紛采取措施推進生成式人工智能标識制度的建立。

　　“标識制度的主要目标是實現大規模、高可靠性和低成本的監管。” 中國科學院科技戰略咨詢研究院研究員肖尤丹表示，此次新規雖然切口小，但可以用較小的合規成本，較好地解決當前 AI 技術快速發展帶來的新問題。标識制度對利用 AI 技術抄襲、搬運内容的新媒體營銷号無疑是一次沉重打擊。以往，這些營銷号利用 AI 批量生成内容，快速 “吸粉” 起号，通過引流帶貨、賬号轉賣等方式變現，擾亂了正常的内容創作生态。如今，平台方可以依據标識追溯到服務提供者，明确其是否履行了标識義務，對違規者進行懲處。

　　作為我國人工智能領域首部 “辦法 + 強制性國家标準” 的 “組合拳”，配套的強制性國家标準《網絡安全技術 人工智能生成合成内容标識方法》也于 9 月 1 日同步施行。該标準針對人工智能生成合成标識的技術實現方式給出了更加細緻、精準的指引，并配以具體的實現範例。以視頻内容顯式标識要求為例，文字提示高度不低于畫面最短邊的 5%，持續時間不少于 2 秒等。

　　“這有助于相關行業各主體采取相應的技術措施、全面準确落實内容标識義務，并實現标識技術的标準化，提高互認程度，降低由于标準不統一帶來的合規成本。” 中國社會科學院大學互聯網法治研究中心主任劉曉春表示。有了統一标準，無論是服務提供者、平台還是監管部門，在标識的添加、核驗、管理等方面都有了明确參照，能夠更高效地推動新規落地。

　　整治 AI 濫用也需防誤傷

　　AI 生成内容，已成當下熱門内容賽道，百度、B 站、字節跳動、快手等，都曾針對生成式 AI 的創作者提供流量資源扶持、現金補貼等活動，希望借助 AI 技術激發内容創作活力，豐富平台内容生态。與此同時，AI 生成的違規内容信息也紛至沓來，不少社交賬号利用 AI 技術造假、博眼球快速 “吸粉” 起号，批量制造虛假人設，大量推送獵奇、養生、情感等内容，并通過引流帶貨、賬号轉賣等方式變現。此前，就有賬号利用 AI 生成虛拟外國幼兒教育專家，教授所謂的育兒内容，誤導家長;還有賬号編造國際軍事虛假内容，博人眼球。

　　針對這一新形勢，2025 年 4 月開始，中央網信辦開展了為期 3 個月的 “清朗・整治 AI 技術濫用” 專項行動，共攔截清理相關違法違規信息 82 萬餘條，處置違規賬号 1400 餘個，下線違規智能體 2700 餘個，對 AI 技術濫用現象起到了有力的震懾作用。

　　如今，除了要求以顯著方式主動标識 AI 生成内容外，多個平台也發布公告，重點整治 AI 生成濫用。利用 AI 生成低俗獵奇視頻、AI 生成虛拟外國幼兒教育專家教授育兒内容、AI 生成國際軍事虛假内容等，正成為重點整治對象。

　　值得注意的是，目前有網絡用戶表示，自己發布畫作、文章、視頻被 “誤傷”，明明是原創内容，卻被平台誤判為 “疑似 AI 合成”，面臨作品被限流、下架的問題。據悉，目前業内在 AI 低質内容治理方面，占比九成以上的審核工作由機器來完成，機器審核主要依靠算法識别，受限于算法的局限性、數據偏差和場景适配不足等問題，準确率難以達到 100%，仍需人工不斷校準。

　　對此，業内專家建議，未來平台應完善複核機制，建立便捷、有效的申訴渠道，讓被誤判的創作者能夠快速申訴，平台及時複查。如有條件，還可在算法識别基礎上引入專家評估機制，綜合判斷内容是否為 AI 生成。對于明确為 AI 生成的内容，采取嚴格管理措施;對于疑似 AI 生成的内容，謹慎處理，保障創作者的合法權益，在整治 AI 濫用的同時，避免誤傷原創作者，維護良好的内容創作環境 。