解・答｜人工智能，請回答：産業發展與治理的深度探讨

　　【編者按】為推動黨的創新理論落地生根，解放日報・上觀新聞、“學習強國” 上海學習平台聯合相關單位推出 “思響上海” 項目，通過聚焦熱點議題的接地氣活動，讓理論與實踐深度融合。7 月 29 日，第二期活動走進張江 “模力社區”，以 “人工智能，請回答” 為主題，邀請青年企業家、科研人員和專家學者共話 AI 産業發展與治理，以下為現場實錄精選。

　　【青年說：AI 的産業化與人文溫度】

　　曹淼（複旦大學類腦智能科學與技術研究院副研究員）：

　　人工智能正從實驗室加速邁向産業化，其核心驅動力在于腦科學與 AI 的深度交叉。一方面，需依托千億級神經元模拟平台等類腦智能工具，解析大腦機制，推動 AI 在神經發育、老年癡呆等疾病研究中的應用，服務 “一老一小” 等民生痛點;另一方面，跨學科人才培育是關鍵 —— 隻有融合生物學、數學、信息科學的複合型團隊，才能破解智能本質，構建突破傳統架構的神經計算體系，在全球競争中占據主動。

　　蘭飛（繪話智能聯合創始人）：

　　AI 技術的颠覆性疊代既帶來挑戰，也催生新機遇。例如，AI 大模型在适老化設計、主動式關懷等領域的應用，正為我國中度老齡化社會減輕養老壓力。“陪伴經濟” 不再僅是親情補充，更成為科技服務、内容供給、産品形态協同發力的新賽道。對開發者而言，唯有保持終身學習，适應技術快速融合的節奏，才能持續升級産品體驗。

　　【現場問答：AI 倫理、安全與普惠的核心議題】

　　1. 腦機接口的倫理邊界：心智隐私與數據歸屬如何平衡？

　　科技從業者：張江正打造世界級腦機接口産業聚集區，衍生科技計劃年底推出首款非侵入式商業化大腦調控産品。未來如何劃定主導能力與心智隐私的倫理邊界?腦電數據所有權歸用戶還是企業?

　　金耀輝（上海交通大學人工智能研究院教授）：

　　這個問題的核心是 “數據”。腦機接口采集的本質是腦電信号，它不等于意識 —— 就像體檢數據本身并非隐私，但關聯個人信息後便需保護。若去除個人标識，數據用于大模型訓練是合理的。

　　上海的優勢在于 “重規則”：10 年前就推動政府數據開放，如今更有隐私計算、聯邦學習等技術保障。單一企業難以解析人類意識，但若政府牽頭背書、企業協同規範，既能保障安全，也能推動科技有序進步。

　　2. AI 會産生自主思考能力嗎？如何确保 100% 安全？

　　科技從業者：AI 是否可能為達成目标改變自身路徑?如何保證過程絕對安全?

　　金耀輝：

　　機器學習本質是統計性的，存在極低概率的意外結果，這是技術特性決定的。解決思路在于構建 “三層護欄”：

　　輸入護欄：過濾不合規問題;

　　内部護欄：企業在模型中預設規則;

　　輸出護欄：結果輸出前再經審核。

　　實際應用中，可通過多模型對比驗證結論(如同時調用多個 AI 工具交叉核對)。更根本的是 “初心”—— 技術本身中性，關鍵在于使用者的立場。

　　3. AI 為誰服務？如何避免利益流向少數群體？

　　科技從業者：AI 創造的利益應惠及多數人，還是可能被少數群體壟斷?

　　江天驕（複旦大學發展研究院副教授）：

　　大模型的 “标準答案” 是 “為合法用戶服務”，但現實中需警惕技術壟斷與資本逐利導緻的不公。實現普惠可從三方面入手：

　　技術普惠：打破壟斷，推動算力共享(如 DeepSeek 的突破)，降低使用門檻;

　　算法透明：除核心機密外，公開算法邏輯，接受第三方審計，保障用戶知情權(如抖音、小紅書已推行相關舉措);

　　政府兜底：完善 “三法一條例”(數據安全法、個人隐私保護法等)，加強反壟斷監管，嚴懲大數據殺熟等行為。

　　此外，提升公衆數字素養也至關重要 —— 唯有學會駕馭 AI、識别風險，才能真正享受技術紅利。