7 月 10 日消息，一項最新發現顯示，人工智能工具 ChatGPT 在商業推薦中可能引用不可靠的信息來源，其中包括被黑客攻擊的網站和已被重新利用的過期域名。
據了解，該發現來自 SEO 專家、Digitaloft 公司董事總經理詹姆斯・布羅克班克(James Brockbank)的個人測試，并非基于正式研究。他在測試中發現，ChatGPT 在推薦公司或服務時，有時會引用被篡改或具有誤導性的内容。這些内容往往來源于被黑客入侵的高權重網站，或是已被重新注冊并用于發布無關信息的過期域名。由于這些域名本身具有較高的 “權威性”，ChatGPT 在生成回答時仍将其視為可信來源。
布羅克班克指出，這種現象主要涉及兩類問題：一是被黑客攻擊的網站，攻擊者會在這些網站上植入與原本内容無關的信息;二是過期域名的再利用，一些機構或個人購買這些域名後，發布與其原主題無關的内容，借此借助其原有的搜索引擎權重誤導 AI 系統。
“重建一個域名，僅僅是為了讓語言模型引用它?這就是操控。” 布羅克班克在接受采訪時表示。他強調，雖然通過合法媒體投放和精心策劃的内容可以提升在 AI 推薦中的曝光度，但利用被黑或過期域名則明顯越過了道德底線。
這一發現對企業和用戶均具有重要影響。對于企業而言，AI 推薦已成為品牌曝光的重要渠道，但如果推薦内容來源不可靠，可能會誤導消費者，甚至損害品牌聲譽。對于用戶來說，盲目信任 AI 推薦可能帶來信息誤判的風險。
布羅克班克呼籲，AI 開發者應加強對操控内容的識别與過濾機制，提升系統的信息篩選能力。在此之前，他建議用戶在使用 ChatGPT 等 AI 工具時，應對其推薦的信息來源進行核實，而非全盤接受。
“我們還沒有到可以完全信任 ChatGPT 推薦而不加驗證的階段。” 布羅克班克提醒道。
免責聲明：本文僅代表作者個人觀點，與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實，對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體，轉載目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，若因作品内容、知識産權、版權和其他問題，請及時提供相關證明等材料并與我們聯系，本網站将在規定時間内給予删除等相關處理.
