商湯再發可持續發展報告，知行合一推動負責任可持續AI發展

　　近日,的人工智能軟件公司商湯科技聯合上海交通大學清源研究院、AIII人工智能國際研究院,共同發布《平衡發展的AI倫理觀——AI可持續發展報告2021-2022》(以下簡稱“報告”),倡導“發展”的倫理觀,打造技術可控、以人為本、可持續發展的AI均衡倫理治理範式,推動發展負責任且可持續的AI技術。同期發布的,還有商湯與上海開源信息技術協會、AIII人工智能國際研究院共同倡議構建的《聯合國可持續發展目标正面案例集》。

　　“‘給歲月以文明’,給技術以人文精神,才能讓技術走得更遠更好。”商湯倫理治理委員會主席、副總裁楊帆表示,“作為新興科技的典型代表,人工智能技術本身、以及它所帶來的經濟、社會、生活方面的巨大影響,都在快速的發展變化——這對人工智能的倫理治理提出了更高的要求。商湯相信,放任自流和因噎廢食的态度,都不可取。AI治理是一個多目标、多維度的平衡過程,即以‘發展’的眼光,尋求均衡的發展。”

　　為此,在去年商湯發布可持續報告的基礎上,商湯本年度的報告進一步拓展了“可持續發展”的内涵與外延。在發布儀式上,商湯智能産業研究院院長田豐詳細介紹了商湯倫理觀以及相關的實踐。基于國際主流的技術倫理治理架構,商湯提出人工智能倫理治理的三個核心原則:

　　圖:發展的AI倫理觀

　　可持續發展:可持續發展是的社會責任。通過倫理治理,商湯希望能夠推動人工智能技術促進全社會的經濟、文化及環境的可持續發展。

　　這其中,很重要一點是人工智能的發展不僅要造福于人類,也要造福于我們的地球。随着節能減碳成為全球共識,積極推動傳統産業綠色轉型,早日實現碳達峰、碳中和成為諸多行業的共同訴求。而其中,電力工業是全球最主要的 CO2排放源之一,實現電力減排、清潔高效生産和運維,将有助于推動低碳電力、低碳能源。2020年,商湯科技與南方電網數字電網研究院達成合作,在超高壓公司直流工程換流站進行了工業級視覺定位 AR技術試點研究,以AI+AR技術助力實現智能電網巡檢,提高電力運維效率,助力新能源大規模并網後的電網運行安全。

　　以人為本:可持續發展的主體是人,要尊重人類的基本權利,構建充滿人文關懷、互相尊重的包容性AI,讓技術真正造福于人。

　　當今的數字時代,各類智能物聯網設備以及相應的軟件應用遍布生活的各個方面。以技術賦能智慧生活,可以進一步釋放數字時代的潛力,方便人類、改善生活體驗。從行業數據和長遠發展看,旅遊早已成為中國居民主要的閑餘活動和生活方式。例如,商湯以AI賦能智慧文旅,将故宮的藏品複制到線上;從早期各種各樣的美顔、智能上妝,到直播時代的3D人像、數字人、虛實結合的體感遊戲等等,商湯累計賦能200多款手機、AR和VR設備、智慧大屏及消費級無人機,以實現真實世界和虛拟世界的連接,創造全新的元宇宙體驗。

　　技術可控:技術是由人類開發并為人類服務的超級工具,工具的倫理責任應由人類承擔;對于人工智能的技術治理,宜采用多元治理、發展式治理,以釋放科技造福人類的創新發展潛力;同時,實現人工智能的法律合規、主動保護數據安全,是可信AI的關鍵成功因素。

　　基于這樣的觀點,商湯積極實踐數據隐私保護,以自主合規性要求不斷驅動産品升級。商湯是第一家獲得全部三項 ISO/IEC隐私信息管理系統、信息安全管理和個人身份信息保護認證的人工智能公司,已采取的标準保護措施包括保密分頻、訪問控制、數據加密及脫敏等,以防止未經授權訪問、洩露、不當使用或修改、損害或丢失數據及個人信息。

　　“可持續發展、以人為本、技術可控,這三條核心原則将是人工智能技術得到信任、廣泛接受和長期發展的重要支柱。”楊帆表示,“在經濟、社會、技術發展的不同階段,人類社會對技術的需求、對技術的倫理的偏重各有區别。為此,要在這樣三原則基礎上,需求均衡、動态的發展。”

　　在這樣理念的指導下,根據上述三原則,經由商湯人工智能倫理與治理委員會推動落實,商湯已建立起系統的人工智能倫理審查程序,以審查及檢測産品及服務的潛在倫理風險。該管理體系涵蓋從項目審批、産品及服務的發布,到持續運營監控,及其後的産品及解決方案疊代的整個生命周期。在評估過程中,可選擇駁回新産品方案、中斷進行中的産品開發項目、或停止不符合商湯原則及标準的現有産品。此外,商湯還聘請外部顧問為相關的審查程序及風險管理模型提供建議,以确保産品及服務符合倫理規範。

　　與本年度可持續發展報告同期發布的,還有由商湯與上海開源信息技術協會、AIII人工智能國際研究院共同倡議構建的《聯合國可持續發展目标正面案例集》。案例集圍繞聯合國可持續發展的17個目标,收集了全球範圍内40餘個人工智能技術在現實生活中應用的正面案例,涵蓋脫貧、無饑餓、AI智慧醫療、AI普惠教育、産業創新和基礎設施等等方面,為産學研界提供一線應用案例參考,共建倫理治理生态。

　　“我們希望以人工智能不斷造福大衆、增進社會福祉、保護地球家園。在這個過程中,落實‘發展’的AI倫理觀,推動負責任且可持續人工智能的發展,是商湯堅持知行合一、實現AI向善的堅定舉措”楊帆表示。展望未來,商湯作為AI領域的龍頭企業,将不斷落實相關的實踐工作,并通過與産業生态的廣泛合作,共同推動人工智能倫理的平衡發展。