人工智能預警：人和機器，誰的偏見更危險

　　在人類曆史上的不同時代，誰在改變和塑造人們的觀念?這是一個經常被忽視卻又非常值得思考的問題。在人類文明的早期，部落首領或巫師，有時是兩者合而為一，掌握對自然變化和人的命運的解釋權。進入軸心時代，知識和觀念的生産更加專業化，哲學家和政治家群體崛起，在西方是蘇格拉底、柏拉圖、赫拉克裡特、亞裡士多德和梭倫們，在東方則是老子、孔子、商鞅和釋迦摩尼們，還有如修昔底德和司馬遷這樣的曆史學家們，也因為傑出的叙事和見識，對當時和後世的思想影響深遠。到了中世紀，教廷和國王在精神和世俗觀念塑造上競争不息。再往後，文藝複興的先驅者們率先打破了人類的精神禁锢，地理大發現中探險者們的故事鼓勵了獵奇、冒險、殖民和商業精神。然後，科學家群體、經濟學家、政治理論家們在社會觀念塑造中各領風騷。

　　從20世紀開始，企業家和企業在人類社會的觀念塑造中扮演了日漸顯著的角色，從福特主義到豐田主義，這種影響遠遠不止于企業内部，也不至于經濟生産，而是影響到社會的方方面面。通常，這種觀念塑造通過幾種方式：

　　一是通過大衆易于理解和傳播的成功故事，企業家和企業被渴慕、效仿和追随;

　　二是帶有政治經濟學意味的，被加爾布雷思和喬姆斯基所揭示和批判的，通過消費主義的生活方式和資本對大衆傳媒的幹預實現的;

　　三是正在迅速興起的，通過對産品的定義以及企業家自己直接言說來表達的方式，這是令人矚目和值得期待的變化。

　　今天，全球的企業，尤其是信息科技企業，很多都旗幟鮮明地在産品和服務中展現出其價值觀。如果有人還懷疑我說的這些企業在觀念塑造上的影響力，不妨想想微軟、蘋果、谷歌、華為、阿裡巴巴、微信有多少員工，他們遍布的地域有多廣，有多少企業在這些巨頭的硬件供應鍊上，或者依賴這些巨頭的系統平台來開發産品，更不必說有多人用戶在用它們的産品。2019年，全球智能手機的出貨量超過14億台，這個數要大于中國的人口規模，三星、華為、蘋果智能手機的出貨量都在2億左右。

　　在梅麗爾·斯特裡普扮演的《鐵娘子》中，撒切爾夫人借回憶父親格言說，“觀念決定行為，行為決定習慣。習慣決定性格，性格決定命運”，這是對觀念的影響鍊條很好的說明。凱恩斯也說過，“經濟學家與政治哲學家的思想，不論其正确與否，其力量之大，往往出于常人意料……許多實幹家自以為不受任何理論之影響，往往恰恰淪為某個已故經濟學家最壞學說之不自覺的奴隸。”這段話也可以用來預見未來企業家和企業對社會的影響。

　　那麼，一個自然而然和關鍵的問題是，該如何看待企業家和企業的這種影響?就個人而言，我樂于将這種新湧現的影響看作是社會獲得更好未來的機會。之所以稱之為機會，有兩個方面的理由：

　　一是多重觀念力量的競争，擴大了社會個體的觀念選擇空間，增進了思想的自由度，也意味着社會中的個體在掌握自身命運上有了更多的自由度;

　　二是企業家和企業被社會所共鳴和選擇的那些觀念本身，反映出的是合作夥伴和數以億計消費者的集體選擇，通過市場機制形成的這種選擇是直接和有力的，反映出建立于分散個體常識基礎上的共識。

　　當我們的社會面臨一些系統性和根本性的挑戰時，任何有助于我們應對這些挑戰的機會，都需要倍加珍惜。這些挑戰，有些是人們能夠直觀理解和警惕的，如急性的傳染病、全球性的經濟危機、核武器的擴散等。有些則更複雜和難以依靠直覺，如氣候變化和人工智能，因為這些變化會撼動社會體系，一開始又是緩慢進行，它們的宏大超出了我們的日常認知，緩慢的變化又使我們難以察覺，而且可能的災難發生在不知多遠的未來，但是一旦緩慢變化累積到一個臨界點，形勢就可能急劇惡化。

　　相比于已經頗有争議的氣候變化，人們對把人工智能視為我所說的系統性和根本性挑戰更心存猶豫。這是可以理解的，因為溫室氣體排放隻是人類生産和生活的副産品，并不是人們想要的。但人工智能則不同，它一開始就是我們理性的産物，是人類智慧的結晶，是我們用來創造更美好生活的工具。如果從1956年達特茅斯的夏季研讨班開始算起，人工智能的發展已經有六十多年了，但是直到最近這些年才開始全面滲入我們的生活。人們熱烈而急切地馳向智能支持的美好生活，怎麼願意在剛開始的時候就考慮花大價錢改進刹車呢?

　　但是我不得不說，現在就需要非常認真地考慮改進刹車系統的事，這不是基于抽象的對“進步主義”和“理性自負”的反思。2018年，中國發展研究基金會和微軟公司在北京聯合發布了《未來基石：人工智能的社會角色和倫理》，本書的作者、微軟公司的總裁布拉德·史密斯先生也出席了發布會。在報告中，我們從認識論和進化論的角度，提出要關注人工智能帶來的知識生産和利用方式的變化，以及對人類社會的影響，特别是負面的影響，包括隐私保護、偏見強化、社會操縱、不平等、武器化等問題，布拉德對這些問題也有強烈的共鳴。事實上，我們的報告吸收很多在他領導下的微軟團隊關于人工智能挑戰的洞見。

　　布拉德的這本《工具，還是武器?直面人類科技最緊迫的争議性問題》是非常及時的。如果借用在最近的新冠病毒疫情中常被提及的一個稱謂，我們也可以稱他為人工智能領域的“吹哨人”。書名準确而清晰地提醒人工智能技術發展和應用的兩面性。最近幾年來，我和我的團隊在密切關注人工智能領域的研究報告和著作，這也是我們第一次從書名中就旗幟鮮明地獲得對人工智能雙重屬性的警示。同樣，這個書名也暗示，工具還是武器，希望還是危險，最終取決于我們的選擇。

　　閱讀這本書是一個愉快的體驗，盡管裡面讨論了許多對人類社會來說不那麼愉快的挑戰。閱讀上的愉悅部分來自書裡内容和分析。本書不僅展示了人工智能發展的積極前景和種種令人興奮的可能性，也涵蓋了諸多已經被關注和尚未引起關注的相關主題，社會分化、失業、壟斷、武器化、大國科技競争等等，這些議題在“工具和武器”這個主題下得到了妥善的安排和處理，這種内容上的全面、平衡與恰當的分析深度很好地結合在一起。

　　作者出色的叙述和嚴謹平實的風格，也讓閱讀變得輕松愉快。我猜想，這與他作為微軟公司首席法務官的職業習慣有關。這不是拒人于千裡之外的學術和技術著作，也不是架空的科幻災難小說。在書中，大量的思考和分析是個人體驗式的，作為微軟的總裁兼首席法務官，他不僅參與了微軟内部關于人工智能研發戰略和規則的制定，還參與了全球範圍内各類大型論壇、政府高層磋商會，讀者很容易将自己代入這些場景中，理解不同利益方的關切和選擇，這使得很多看起來宏大的議題變得真實可感。

　　基于本文一開始就提到的理由——企業家和企業在現代社會觀念塑造中的重要角色，我特别贊賞布拉德和微軟公司在推動公衆全面、平衡地認識人工智能所作出的努力。借用電影《蜘蛛俠》中的話，能力越大，責任越大。作為一家全球的高科技公司，有幾十萬的員工，有數以億計的用戶，在全球人工智能開發版圖中具有舉足輕重的影響，應該促進行業在人工智能發展中采取審慎和自律，促成社會公衆建立正确的認知和觀念，這是巨大的責任。

　　我不準備過多讨論和評論這本書的内容了，畢竟讀者自己從閱讀中理解人工智能帶來的希望和危險，是更可靠和可取的途徑。但是，我樂于和讀者們分享我在閱讀本書以及寫這篇書評中獲得的兩個擴展的思考。

　　第一，我們對人工智能開發走向失控要有更多準備。靠少數公司和政府的努力建立負責任的開發是困難的。企業之間有激烈的市場競争，國家之間還有更複雜的技術和軍事競争，企業間和政府間的博弈會形成典型的囚徒困境，而且由于驗證上困難也無法建立有效的約束機制，最終大家都向底線競跑。

　　第二，人工智能對社會系統性、根本性的影響，還在于我們社會還未曾和智能上遠高于我們的物種共生過。兩年前和微軟合作研究的時候，我們讨論和分析了人工智能的已顯和未顯的挑戰，這些挑戰都稱得上巨大，但總覺得意猶未盡。但現在我想可以更清晰準确地表達出更大的風險。人類依靠智識形成的合作體系，将猛獸滅絕或趕到自然的角落裡，馴化動物作為夥伴或者食物，開發疫苗控制了病毒的襲擾。但是人工智能和已知的生物不同，和我們習慣共存的工具不同，在人類需求的推動下，有實體和無實體的人工智能實際上是一個物種，它最終會具備自主性，而且在某些領域的智能和性能上遠遠超過人類的認知經驗。所以，在未來，我們與人工智能不是共存，而是共生。但是，我們的社會沒有準備好，人工智能成為社區的成員，成為夥伴、上級、下級、老師、敵人。當人工智能全面地介入人類的生産生活後，當它們從單一功能升級為複合功能，當它們通過網絡連接成為社區，現在社會中我們熟知的哪些關系和行為準則可能都需要重新定義，但是我們還沒有思考和準備。很多人認為這是虛幻的或者是遙遠的未來的事，但是由于前面所說的“囚徒困境”，實際上這種挑戰到來的速度會比想象得快。

　　這兩個推演結論聽起來似乎悲觀了些，但是如果不去思考和指出這樣的挑戰，不去為之做好準備，那麼這個挑戰有很大的可能變成現實。要為這樣的挑戰作準備，不能隻靠少數公司、政府、學者的努力，需要在國際層面、行業之間、學科之間和不同利益群體之間的更廣泛協同合作。不論正确與否，我樂于和讀者分享我的閱讀思考，也期待更多的讀者能從這本書中獲得自己的啟迪。