不久前，某公衆号運營者鐘某為蹭 “海嘯預警” 熱點，利用 AI 生成 “30 萬居民撤離上海”“數十萬上海市民正排隊登車” 等聳人聽聞的言論。這條假消息被大量閱讀、轉發，引發恐慌情緒。其後，鐘某被警方拘留。
AI 的廣泛應用，為虛假信息的批量生産和病毒式傳播提供了 “溫床”，給社會治理帶來挑戰。9 月 15 日，《人工智能安全治理框架》2.0 版正式發布。中央網信辦負責人表示，要強化規範引導，不斷完善人工智能安全監管制度和标準規範體系，促進人工智能健康有序發展。
利用 AI 造謠日漸頻繁
今年 3 月，福建廈門公安機關發現，網上有信息稱：“2025 年 3 月 3 日，廈門市某化工廠發生一起嚴重的閃爆事故，造成 3 人死亡、3 人受傷……” 公安機關調查發現，這是發布者許某通過網上 AI 助手軟件生成的虛假文章。公安機關對許某予以行政處罰。
人工智能時代，利用 AI 造謠日漸頻繁。公安部曾發布多起典型案例。如，湖南公安機關查處編造 “民警離職潮” 謠言案，江西公安機關查處 MCN 機構使用人工智能工具造謠案，重慶公安機關查處使用人工智能工具編造 “爆炸事故” 謠言案，廣東公安機關查處編造 “廣州限制外賣配送” 謠言案。相關人員均被繩之以法。
清華大學新聞與傳播學院新媒體研究中心 2024 年發布的《揭秘 AI 謠言：傳播路徑與治理策略全解析》研究報告指出，2023 年以來，伴随 AIGC 技術的高速發展，一些造謠者不當利用 AI 工具，使得 AI 謠言量高速增長。
報告指出，在各類 AI 謠言信息量占比中，經濟與企業類謠言和公共安全類謠言占比最多、增速最快，其中餐飲外賣、快遞配送等民生行業成為謠言重災區。
記者調查發現，人工智能技術讓網絡謠言内容更為逼真，常配有僞造的圖片、視頻甚至所謂 “官方回應”，極具迷惑性。
中國(深圳)綜合開發研究院院長助理、數字經濟與全球戰略研究所所長曹鐘雄等業内人士認為，AI 不僅能高效生成虛假信息，而且可以通過過濾、推薦機制，将虛假信息聚合形成 “證據鍊”，給普通用戶乃至專業人士造成誤導。
流量變現驅動商業化黑産
不久前，某著名食品公司向安徽省合肥市公安局經開分局報案稱，多個網絡平台上集中出現大量虛假、帶有誘導性的負面文章，惡意攻擊公司品牌及産品品質。公安機關立案調查，民警在多個平台發現關于該品牌 “二氧化硫殘留”“黴變” 等内容的文章 200 餘篇，且内容高度雷同。
經公安機關核實，上述内容均為虛假信息。信息發布者陳某被行政拘留。陳某交代，今年 8 月，他在網上看到該公司相關信息後，想到知名企業涉及食品安全問題，容易引發公衆關注。為博取流量，他使用 AI 工具編造内容，生成多篇虛假負面文章，在多個平台集中發布。
業内專家指出，傳統謠言生産依賴造謠者人工操作。如今，造謠者使用 AI 工具，隻要輸入特定關鍵詞或指令，便可快速生成内容逼真、欺騙性強的謠言，從而實現謠言的大規模、高效率生産。
去年 3 月，江西公安機關查處一起 MCN 機構使用人工智能工具造謠案。經查，王某某經營有 5 家 MCN 機構，共運營自媒體賬号 842 個，長期組織公司人員選取熱點文章，使用 AI 工具批量生成不實文章進行吸粉引流。
“他平均每天通過 AI 工具發布 4000 到 7000 條信息，最高的一條收入是 700 元。經初步估算，每天收入在 1 萬元以上。” 辦案民警說。
記者發現，多起 AI 造謠事件背後，不法者的造謠動機主要源于牟取互聯網内容平台給予創作者的獎勵，以及為電商平台經營引流等;一些造謠者還可以從廣告收入、合同推廣、直播帶貨或其他相關的商業活動中獲益。
一名長期從事自媒體工作的博主表示：“以某大型内容生産平台為例，收益計算公式可以簡化為‘有效播放量 × 互動系數 × 千次播放單價’。平台會對點擊量高、互動性強的原創性内容給予更多收益分成。如果整體權重較高，一篇閱讀或播放 100 萬次的稿件，收益可超過 1000 元。”
此外，不正當商業競争也進一步催生了 AI 謠言黑色産業鍊。一位頭部消費電子企業法務相關負責人透露，“金主” 企業放出任務信号後，公關公司會找來一批自媒體運營者、KOL(關鍵意見領袖)，利用 AI 技術生成虛假信息，大批量、高頻次在社交媒體、網絡平台等釋放抹黑競争對手的内容;此後還有營銷公司及流量商加入，進一步擴散傳播謠言。
造謠一張嘴，辟謠跑斷腿。不少受訪企業表示，辟謠工作給公司帶來了繁重的負擔，需要耗費大量人力、精力去做解釋工作，以消除不利影響。
中國政法大學刑事司法學院教授于沖等法律專家指出，目前 AI 造謠已經形成商業化運作黑色産業鍊，一些造謠者以吸引流量變現牟取經濟利益為目的。相關行業企業在應對 AI 謠言中面臨維權難、輿論修複難等挑戰。
全鍊條治理封住 AI “黑嘴”
近期，公安部組織全國公安機關持續開展打擊整治網絡謠言工作，及時發現查處借熱點輿情事件進行造謠傳謠線索，重拳打擊編造傳播涉企業、涉民生、涉警情等領域網絡謠言違法犯罪活動。
今年 7 月，中央網信辦在全國範圍内啟動為期 2 個月的 “清朗・整治‘自媒體’發布不實信息” 專項行動，重點整治的突出問題包括 “利用人工智能生成合成技術，仿冒他人，或編造社會民生等領域虛假信息，欺騙公衆”。
面對 AI 謠言治理中的取證難、定性難、追責難等問題，單一治理手段已力有不逮。多位受訪業内人士建議，遏制 “AI 謠言” 需要多方協同發力，構建全鍊條治理體系。
中國社會科學院大學互聯網法治研究中心執行主任劉曉春說，新媒體平台應加強對 AI 造謠和 “水軍” 行為的智能識别機制研究，進一步改革涉及 AI 内容的流量分發和收益分成機制，最大限度壓縮通過 AI 造謠牟利的空間。
專家指出，平台可通過逆向傳播，利用相同渠道傳播準确信息，抵消謠言影響;鼓勵用戶積極舉報可疑内容，通過設立獎勵機制增加參與度;持續研究謠言生成和傳播機制，開發有效監測和防治技術等。
于沖等建議，司法治理也需要 “鍊條化” 思維，針對 AI 造謠鍊條的前端發布主體、中端采取的技術手段和末端的後果危害，分别進行評價和判斷，進行全鍊條打擊和預防。
最高人民法院研究室副主任喻海松等表示，治理涉企 AI 謠言，僅僅依靠刑法是不夠的，要進一步修複社會信任機制，營造自覺抵制謠言的良好環境，同時鼓勵 AI 治理合作，進一步推廣 AI 倫理标準、治理技術和創新國際合作模式。
上海市律師協會理事、上海博和漢商律師事務所執行主任王思維說，人工智能目前仍僅是一種技術手段，而非可承擔法律責任的獨立主體。對 AI 技術濫用行為的治理，應當堅持防懲并重原則，在确保科技創新積極性、AI 技術合法合規使用的情況下，避免過度監管。
免責聲明：本文僅代表作者個人觀點，與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實，對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體，轉載目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，若因作品内容、知識産權、版權和其他問題，請及時提供相關證明等材料并與我們聯系，本網站将在規定時間内給予删除等相關處理.
