9 月 1 日起，國家網信辦等四部門聯合發布的《人工智能生成合成内容标識辦法》正式實施，我國對 AI 生成内容(AIGC)的治理邁入 “強标識” 時代。在九派新聞 “九派圓桌” 直播中，知名數字經濟學者劉興亮圍繞《辦法》落地後的檢測邏輯、合規難點與未來趨勢展開深度解讀，回應了 “手動錄入 AI 文本是否算原創” 等公衆核心關切。
一、《辦法》出台：破解 AI “深度僞造” 背後的三大核心謎題
“現在 AI 生成的文本、音視頻、虛拟人足以以假亂真，普通公衆很難分辨，《辦法》的核心就是給 AIGC‘亮明身份’。” 劉興亮指出，此次《辦法》并非全新立法，而是對《互聯網信息服務深度合成管理規定》等原有政策的細化補充，重點聚焦三個亟待解決的問題：哪些是 AI 生成的？是誰生成的？從哪裡生成的？
這三大問題的提出，源于現實中日益頻發的 AI 濫用亂象。劉興亮分享了多個真實案例：自己的聲音與影像素材被機構未經授權用于數字人推廣，對方卻以 “素材公開、無惡意” 為由辯解;大學生情侶分手後，男生用 AI 合成女生音視頻造謠侵權;某高校教授被 AI 僞造的 “朋友” 視頻騙走 400 萬元。“即便是我自己疊代到 4.0 版本的數字人，也常讓粉絲困惑‘是真人還是 AI’—— 用戶有權知道内容的真實來源，這是《辦法》的立法初衷。”
他強調，《辦法》的本質是推動 AIGC 從生成到傳播的全流程安全管理，通過強制标識遏制深度僞造擴散，明确平台、生成者等主體的責任邊界，最終實現 “該标就标、信息透明” 的治理目标。
二、檢測真相：AI 文本難 “僞裝”，兩大指标識破核心屬性
《辦法》實施後，企業需承擔内容标識與安全防範的主體責任，而 “如何檢測 AI 生成内容” 成為公衆與監管層共同關注的焦點。劉興亮坦言，當前 AIGC 檢測技術仍在完善中，尤其文本領域因 “無形無迹” 更具挑戰，但核心邏輯已相對清晰。
從技術層面看，文本檢測主要依賴兩大核心指标：
困惑度：衡量内容的 “創造性與不确定性”。人類寫作常因思維跳躍産生 “意外表達”，困惑度更高;而 AI 生成文本基于概率算法選擇 “最可能的下一個詞”(如描述天氣大概率接 “晴朗”)，行文更順滑但缺乏新意，困惑度顯著更低。
突發性：反映内容的 “風格波動與多樣性”。人類寫作的句子長度、語氣風格變化較大，突發性強;AI 生成内容則因模型慣性呈現 “均勻化特征”，突發性低。
針對 “手動錄入 AI 文本能否算原創” 的熱門疑問，劉興亮給出明确答案：不能。 “AI 檢測工具關注的是内容本質，而非錄入方式。即便把 AI 文本抄一遍，其困惑度、突發性等核心屬性沒變;給 AI 圖片手描一遍，核心結構與元素仍在 —— 這些操作騙不過檢測系統。”
他同時提醒，當前檢測工具誤判率較高，曾出現 “人類平實文風的原創内容被判定為 AI 生成” 的案例。“高校老師不能僅憑檢測工具下結論，應結合草稿版本、創作軌迹等原始證據綜合判斷;創作者遇誤判可通過版本記錄申訴，這是人類創作的獨特證明。”
對于中小企業的合規壓力，劉興亮直言 “挑戰不小”：大企業有資金技術應對，中小企業可能因成本問題心存僥幸。他呼籲提供普惠性技術解決方案，避免中小平台成為監管漏洞 ——“若違規内容都流向未合規的中小平台，治理效果會大打折扣。”
三、跨境治理：責任分屬 “生産 + 傳播” 兩端，規則互認待突破
随着 AIGC 跨境傳播日益頻繁，“不同國家标識規則不一如何銜接”“出問題後責任誰擔” 成為新的治理難點。劉興亮指出，我國在 AIGC 标識治理上走在全球前列，歐盟《AI 法案》雖對深度僞造有強制要求，但國際層面尚未形成統一标準。
在責任劃分上，他明确了 “屬地管理” 原則：AI 内容在哪個國家生産，需符合當地法規；在哪個國家傳播，也需遵守當地規則。 例如，某 AI 作品在 A 國生成、同時在 A 國與 B 國傳播，必須同時滿足兩國的标識要求，否則任一國家都可追責。“這也是中國企業出海的難點之一，既要合規國内規則，也要适配目的地法規與文化，需多一份寬容與支持。”
而規則互認的關鍵在技術層面。“顯性标識相對容易銜接，隐性标識涉及元數據、來源憑證等，需要各國認可統一的‘通用語言’。” 劉興亮表示，未來可能出現 “雙标識” 模式 —— 既保留國内執法所需要素，又适配境外規則，但這無疑會增加企業負擔。
四、未來趨勢：四大方向破解标識技術與治理閉環難題
談及 AIGC 标識技術的發展方向，劉興亮預判将聚焦四個核心領域：
标準統一：減少企業重複投入，為跨國互認掃清障礙，避免因标準混亂産生銜接漏洞。
模型簽名化：在生成端讓大模型自動寫入可驗證的來源證明，從根源上明确 “誰生成、從哪來”，目前圖像生成領域已出現類似嘗試。
流市場景整合：針對直播、動态視頻等 “流動内容”，開發 “疊層水印 + 界面寫标 + 回放檢驗” 的組合技術，破解實時傳播的監管難題。
平台協同閉環：打通 AIGC 生成、标識、申訴、追蹤全環節，實現 “每一步有迹可循、每一環有責可追”，構建完整治理鍊條。
“強制标識不是給 AI‘設限’，而是為了讓技術在合規軌道上更好發展。” 劉興亮以自身數字人創作舉例：高敏感度的新聞、知識、商業内容清晰标注後，反而能提升受衆信任度。“當技術透明、責任明确，AIGC 才能真正服務于生活，而非制造混亂。”
免責聲明：本文僅代表作者個人觀點，與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實，對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體，轉載目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，若因作品内容、知識産權、版權和其他問題，請及時提供相關證明等材料并與我們聯系，本網站将在規定時間内給予删除等相關處理.
