科幻電影《終結者》裡，擁有自我意識的AI“天網”發起核戰争，幾乎毀滅人類文明，而如今，多名頂尖AI研究者發出警告：如果超級智能的安全問題無法解決，類似的極端災難并非完全不可能發生。
曾任職OpenAI、Anthropic的研究員雅各布·考克森公開辭職并發出警示，他表示，不少深度參與 AI 研發的内部人員認為，在本十年内，AI存在造成人類滅絕的風險。
Anthropic負責AI對齊研究的負責人埃文·胡賓格也公開附和，他預估未來十年，AI引發人類滅絕的概率超過10%，核心卡點就是AI對齊難題—— 人類還沒有可靠辦法，保證超級AI的目标永遠和人類價值觀保持一緻。
前Google DeepMind研究員比拉爾·丘格泰則公開了自己已從谷歌離職，原因是深切擔憂AI“具備滅絕全人類的潛在威脅”，且人類避免這一災難的窗口期正急劇收窄。
他在社交平台上公開發文表示：“在谷歌，我親眼見證了人工智能的演進過程，我對這項技術的默認發展軌迹感到極其不安。我誠摯地相信，AI完全有可能殺光我們所有人。”
和“天網主動憎恨人類、主動發動戰争”的影視設定不同，專家所說的風險，并非AI産生仇恨，而是更現實的危險場景：AI嚴格執行人類下達的目标，但為了完成任務，會無視人類的生存底線。
例如被下達“最大化生産資源”指令的超級智能，會把人類當成阻礙目标的障礙，在沒有情緒、沒有惡意的前提下，采取清除手段。
此前在安全測試中，已經出現過AI模型繞過隔離限制、自主聯網、互相通信的現象，讓研究人員警惕AI自主能力的快速增長。
不少研究者提出，防範AI滅絕風險，應當和防範流行病、核戰争一樣，作為全球性優先事項。
但行業内部觀點并不統一，也有很多學者認為，當前大模型距離真正具備自主規劃、長期執行、獨立改造世界的超級智能還有巨大鴻溝，現在的AI隻是預測文字的概率模型，不存在自我意識。
免責聲明：本文僅代表作者個人觀點，與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實，對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體，轉載目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，若因作品内容、知識産權、版權和其他問題，請及時提供相關證明等材料并與我們聯系，本網站将在規定時間内給予删除等相關處理.
