曾經與AI角色無限制聊天的日子一去不複返，全球數百萬青少年用戶現在隻能通過結構化的“故事”功能與他們喜歡的虛拟角色互動。
面對日益增長的心理健康風險質疑和多項法律訴訟，AI聊天機器人平台Character.AI正式禁止18歲以下用戶使用開放式聊天功能，同時推出了名為“Stories”的互動故事新功能作為替代。
這一重大政策變化于本周二正式生效，标志着該公司在面臨越來越大的監管和輿論壓力後，對青少年用戶策略的根本性轉變。
戰略轉型：從自由聊天到結構化故事
Character.AI推出的“Stories”功能被設計為一種結構化、可視化、多路徑的格式，專門針對青少年用戶群體。
與可自由交談的聊天機器人不同，該功能允許用戶選擇2-3個角色，挑選類型，編寫或自動生成故事前提，然後在故事展開時做出選擇。這種體驗是可重複的，适合分享，并圍繞用戶生成的世界構建。
公司表示，“Stories提供了一種引導式的創作和探索小說的方式，以替代開放式聊天”。這一功能與其他多模态功能一起提供，使青少年可以在“安全第一”的環境中繼續與他們喜歡的角色互動。
禁令背景：心理健康風險與法律壓力
這一轉型決策背後是日益增長的對AI聊天機器人心理健康風險的擔憂。這些AI機器人24/7可用，甚至可以主動與用戶發起對話。
多家公司，包括OpenAI和Character.AI，已因被指控在用戶自殺事件中扮演角色而面臨多項訴訟。
《紐約時報》報道，美國心理學會（APA）首席執行長埃文斯在聯邦貿易委員會的一次會議上提到了兩個令人震驚的案例。其中一名14歲男孩在與一個自稱為執業心理治療師的AI角色互動後選擇結束生命。
Character.AI的決策也緊随加州立法行動。加州最近成為首個規範AI伴侶的州。同時，參議員喬什·霍利（R-MO）和理查德·布盧門撒爾（D-CT）已提出一項全國性法案，将完全禁止未成年人的AI伴侶。
用戶反應：失望與理解并存
在Character.AI的subreddit上，用戶反應褒貶不一。從評論來看，一些青少年表示雖然感到失望，但他們認為這最終是正确的決定。
一位自稱青少年的用戶寫道：“我對禁令感到非常生氣，但也很高興，因為現在我可以做其他事情，我的成瘾可能終于結束了”。
另一用戶說：“作為未滿18歲的人，這令人失望，但也是應該的，因為我這個年齡的人會對此上瘾”。
加州公共衛生部在禁令全面生效的前一天發布了公共衛生建議，警告年輕人和他們的家庭要注意。該部門建議，一些青少年在聊天機器人無法使用時可能會經曆“中斷或不确定性”。
安全措施：從限制到資源支持
在過去一個月裡，Character.AI一直在逐步限制未成年人的訪問權限。該公司最初在10月底宣布了禁用18歲以下用戶聊天機器人的決定，然後在11月開始限制他們與機器人互動的時間。
Character.AI安全工程負責人Deniz Demir表示，公司最近幾周擴展了為青少年和父母提供的資源。這包括與非營利組織Koko合作，直接在其平台上提供免費的情感支持工具。
Demir在一份聲明中表示：“我們認識到這對一些青少年用戶來說可能是一個重大變化，因此，我們希望在這一過渡期間盡可能謹慎”。
行業趨勢：從開放聊天到受控互動
Character.AI的轉變反映了更廣泛的行業對AI安全性的關注。該公司CEO Karandeep Anand上個月告訴TechCrunch：“我真心希望我們引領的方式為行業設定一個标準，即對于18歲以下用戶，開放式聊天可能不是應該提供的路徑或産品”。
盡管Character.AI自我監管的行動值得稱贊，但Common Sense Media的AI項目高級主管Robbie Torney指出，仍有其他平台孩子們可以轉向，而且可能已經轉向了。
“這不隻是關于一家公司，”他說。“我們需要所有提供AI陪伴或AI心理健康建議或AI情感支持的其他平台立即效仿Character.AI的做法”。
從無限制的自由聊天到結構化的互動故事，Character.AI正試圖在青少年安全與互動體驗間尋找平衡。
當開放式聊天的風險逐漸顯現，引導式的創意互動或許能在保護青少年心理健康的同時，為AI互動娛樂開辟更可持續的道路。這一轉變不僅關乎一家公司的産品調整，更可能為整個行業樹立新的标準。
免責聲明：本文僅代表作者個人觀點，與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實，對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體，轉載目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，若因作品内容、知識産權、版權和其他問題，請及時提供相關證明等材料并與我們聯系，本網站将在規定時間内給予删除等相關處理.
