華為雲EI從架構、API到應用，全局踐行AI價值落地

　　AI從2012年開始熱度一直居高不下,俨然成為IT行業的新寵,與各行各業的結合也成為AI落地進程中的主流方向。AI技術如今已經成為IT行業的新寵,與各行各業的結合也成為AI落地進程中的主流方向,智慧城市的發展和現狀是怎樣的?如何更好地實現雲上強大AI能力的價值落地?NLP(自然語言處理)和對話機器人有哪些典型落地場景和未來趨勢?

　　12月21日上午,在AICon全球人工智能與機器學習技術大會“華為雲AI技術應用和實踐專場”上,來自華為雲EI(企業智能)的三位技術專家分别就“華為雲自然語言和對話機器人技術詳解和應用場景”、“AI+城市智能體:聚焦新一代智慧城市的PISC架構”、“華為雲HiLens:端雲協同AI平台,助力企業快速智能化轉型”主題詳解了相關技術與應用。

　　一、自然語言、對話機器人技術詳解及應用場景

　　随着智能助理、對話機器人、智能音箱等産品的興起,NLP的風口正在到來,NLP領域突破不斷,預訓練模型的出現,遷移學習和多模态被越來越多的普遍使用,企業市場也湧現出豐富的應用場景。語言理解成為人工智能皇冠上的明珠。在華為雲的演講中,整體梳理了華為雲自然語言、對話機器人技術詳解及應用場景。

　　(一)語音語義技術發展曆程

　　人類使用自然語言溝通的邏輯是:聽到——>理解——>回答,而從計算機的角度,要想實現語音語義識别,需要4項技術與之對應:語音識别ASR、語言理解NLU、語言生成NLG和語音合成TTS。

　　1、語音識别的發展:1952~1990年是模闆匹配階段,主要針對小詞彙量、孤立詞識别;1990~2010年,開始用統計模型做語音的識别;到了2010年以後,基于神經網絡的模型如CTC出現,讓語音識别的模型變得非常清晰簡單;最近幾年出現的attention demo,效果可以達到商業化應用标準。

　　2、語音語義技術在行業的應用:一方面是虛拟的個人助手,另一項重要應用是智能客服,三是公司内部IT熱線。

　　(二)智能語言和對話機器人的應用

　　華為EI語音語義團隊基本上覆蓋了三方面的線上服務,一是自然語言處理服務,包括NLP基礎能力如分詞,文本相似度等,也包括語言生成、語言理解、知識圖譜、機器翻譯等高階能力;二是語音交互服務,包括語音識别,語音合成、語音擴展的能力;三是更加智能的交互技術,包括多輪問答、電話機器人等。

　　1、對話式智能在企業場景中的應用

　　對話式智能在企業中的應用,包括售前引導、售後服務以及智能外呼。其中,售前引導通過智能導購多輪對話,增加商業機會并減少運營成本;售後服務通過故障問答、售後咨詢等提高客服效率,提升服務體驗;而智能外呼由機器人自動執行外呼電話任務,例如營銷、滿意度回訪,預約等,并自動生成呼叫語義報告,提升企業運營效率和客戶滿意度。

　　在構建整個解決方案時,遷移學習在NLP領域可以解決很多場景的問題,這一點被越來越看好。比如開發者訓練了某一個特定領域的模型,并積累了大量數據,但是當進入新領域時必然面臨到現有數據少的難題,而通過遷移學習則可以把訓練好的模型遷移到新的場景上,用現有的、較少的數據訓練出好的模型,從而解決客戶的問題。

　　2、智能對話分析/質檢

　　在呼叫中心裡,尤其是呼叫量比較大的時候,需要分析客服與客戶的互動是否符合規範,以前都由專門的質檢人員監聽錄音反饋信息。現在可以用機器替代人工,用自然語言理解和語音識别去做全量質檢,不僅可以得到質檢的結果,還可以得到商業的分析,用客戶提供的反饋優化産品。

　　3、自然語言的情感分析

　　華為VMALL商城裡面有大量的用戶評價,對于一個公司來說,了解用戶真實的反饋是非常有價值的,對商品評論自動過濾,負面評論供人工審核解決問題;對于屬性級别的情感分析,輔助細粒度商業分析和決策。

　　(三)語音語義未來發展趨勢

　　NLP會迎來黃金10年。華為雲緻力于把學術界最前沿的技術應用到商業場景裡面,解決客戶的具體問題。

　　1、Voice UI會成為下一個趨勢,聊天機器人将無處不在。現在越來越多的應用場景,各種不同的垂直領域都會有聊天機器人代替人工做一些工作,無論是售前咨詢、售後服務、輔助購買等都會有機器人去引導你,輔助你把這個流程走完。所以習慣與機器人互動是接下來每個人要做的事。

　　2、未來五到十年,機器人會具備分析大量文本的能力。從閱讀、分析、理解到最後生成一個總結報告,所有的内容都是由機器人去完成。

　　3、情感化、個性化的定制成為流行。高德地圖中,使用明星語音引導就是例子,未來會有越來越多定制化的語音需求,滿足不同場景的應用。

　　二、AI+城市智能體:聚焦新一代智慧城市的PISC架構

　　第二位華為專家從城市智能體的角度,以智能交通為例,系統地介紹了基于人工智能技術的PISC架構在交通态勢感知(Perception)、推理(Inference) 到決策(Strategy)和控制(Control)上的應用。此外,他還詳細講解了基于膠囊投影的深度學習算法(Capsule Projection Networks)、交通圖計算(Graph Computing)以及各種交通策略以及控制算法的實現。

　　(一)智慧城市發展現狀

　　智慧城市最早起源于2008年11月RBM提出的智慧星球,直到2012年,RBM陸續從智慧星球概念中推出智慧城市。也是在2012年深度學習技術在計算機視覺取得非常大的成果後,智慧城市的落地應用才變得可行起來。

　　有一個最經典的智慧城市解決方案——PC,P就是感知,C就是控制。通過對交通路網上的交通流進行實時分析,對交通流在不同的入口,甚至到不同的車道上的情況都有一個的感知結果。根據感知分析的結果,對路口的紅綠燈進行流量控制,比如通過調節感應率的時間,實現最小化等待時間,防止出現二次排隊的現象,從而制定合适的紅綠燈方案。

　　但PC結構是有本質上的缺點。一是PC得到的感知結果實際上是局部的,缺少對全局交通态勢的認識。二是對于交通動态變化的分析和控制,由于規則不固定,很難做到的策略。三是認知與決策的鴻溝。也就是如何把感知上升到認知,并且把認知翻譯成能夠執行的策略和控制的方法。

　　為了解決這三個問題,華為雲在PC結構基礎上構建出一個PISC。

　　(二)PISC總體架構

　　PISC就是在PC結構基礎上,在P與C之間加入I(推理)和S(決策)。

　　1、加入I(推理),目的是把局部的感知信号疊在一起形成全局交通态勢的認知。比如對單點的交通流的信息推理,如何發現擁堵的區域,如何找到早高峰的數據,如何發現出入口的擁堵,不僅需要對當前态勢進行推斷,還要對交通态勢随着時間的變化進行預測。

　　2、把認知結果翻譯成S(決策)。在決策裡非常需要交警的專業知識和經驗的引入。結合AI的控制技術、控制手段,形成一整套策略,并把策略通過紅綠燈信号或者是導流屏或者導流短信實施下來。

　　現在最常用的感知技術是攝像頭技術,在此基礎上提出新的一種更加高效的、精度更高的深度學習框架——膠囊投影。其思路是:分類,對每一個類别做一個膠囊子空間,每個子空間有特定識别的語義。做投影之後,它的長度跟角度利用膠囊網絡最核心的思想,可以得到膠囊投影進行分類。在不改變網絡複雜度的情況下,以網絡的容量、參數規模和運算時間來做度量複雜度。在同樣複雜度下能夠比其他深度學習的網絡分類準确率提高20%以上。

　　另外,利用多模态的數據對多模态進行感知。選擇多模态。一是因為電警數據有死角,需要結合其他多傳感器的數據,比如地磁跟雷達數據,擴大探測範圍,形成互補;二是要采集浮動車數據。利用浮動車數據,把浮動車低采樣、低密度的數據恢複成高采樣、全路網的數據。

　　智能交通決策控制是把認知的信号通過推理的方法上升到感知跟語義信号的高度之後,就可以識别出來擁堵區。為了把語義地圖轉換成可以執行的控制交通策略,首先要把語義地圖做一個表達,通過語義地圖原始輸入的data,把它翻譯成交通地圖做一個全景表達的representation,在這個過程中可以把專家的知識輸入進去,就是Graph作為輸入,然後專家的指揮數據作為一個輸出,作為有監督的訓練,這種方法是一種模仿型的自動決策的方法。

　　除了模仿型方法之外,我們也可以利用強化學習的方法,強化學習仍然是基于Graph Representation全局的表達,但是這個時候不是用專家的知識,而是用全區的可以評估的指标。

　　這兩種方法可以融合起來,既可以把專家給出來的指揮策略作為信号,也可以用AI技術、強化學習來訓練神經網絡。

　　PISC方案已經在很多城市進行試點,有的已經進行全方案的部署。以一個北京路口為例,利用TrafficGO系統把平均延誤時間下降25%,全幹道平均延誤下降15%,這是用第三方浮動車數據測出來的結果,可見人工智能技術在試點的路口已經取得了好的結果。華為專家在演講中提到,随着智慧城市建設的大力投入和深入開展,EI人工智能技術在高效疏導交通擁堵,提高城市出行效率,及時響應交通事故和其他緊急事件,快速建立應急車輛的綠色通道,以及保障和提高民生, 建成人和生态環境和諧發展的智能城市體等方面發揮關鍵性的作用。

　　三、華為雲HiLens:端雲協同AI平台

　　在AI技術實際落地過程中,諸多場景如攝像頭智能監控、醫療影像分析、智能車載系統等遇到數據上雲成本高、計算延時大、隐私風險、AI應用開發上手困難、AI應用本地維護困難等挑戰,極大的阻礙了雲上強大AI能力的價值落地。因此,将雲上AI能力便利的部署到離應用場景更近的邊緣或終端設備上,能很好解決這一系列問題。在2018年10月召開的華為全聯接大會上,華為雲重磅發布了一站式視覺AI應用開發、部署和管理服務平台——HiLens,以解決當下“端-邊-雲”場景下亟待解決的開發問題。

　　在本次大會現場,華為雲HiLens研發負責人也帶來了相關演講,詳細拆解了HiLens平台架構及關鍵能力。演講伊始,他先整體講解了華為雲EI布局,并引入對 HiLens的介紹。

　　目前,雲上AI服務落地依然存在很多的問題和挑戰,主要的五項包括成本、延時、場景、隐私及邊緣端側AI應用的部署和維護難。針對高成本、低延時、複雜場景、數據安全和部署維護等問題,華為雲推出了HiLens平台服務。

　　其主要能力包括:一、可以管理高達百萬量級的設備;二、通過在算法和業務層面将AI的應用拆分成端的部分和雲的部分。以攝像頭監控行業為例,在家用攝像頭上可以做人形、人臉比對、家庭成員的搜索等等,華為将預處理或者基礎的能力放在低成本的攝像頭上,然後輸出小圖傳輸到雲側進行比對,并在端側把大量的數據忽略掉,所以成本會大幅降低;三、HiLens平台構建的也是一個Skill Market的生态,到2019年,華為和第三方合作夥伴開發的針對各個行業的幾百個技能、應用,都會放到Skill Market裡。

　　HiLens的整個平台架構主要分為三個部分,最上層是針對行業已經實現的應用,下層分成端側和雲側,端側主要是基于不同的芯片、不同OS系統開發的整個AI技能在端側運營的軟件,包括算法成本和庫、基本圖像、語音處理的部分軟件等,通過一套叫Skill Framework的服務提供給開發者,開發者可以簡單高效地可以在端側運行應用或技能;雲側主要提供邊緣設備的管理,也包括應用開發和數據的管理。例如,在設備上産生的數據可以從端側軟件推到雲側做一個視覺化存儲。

　　HiLens平台包含以下幾大特性和關鍵能力:

　　1、針對Skill生态的開發者做Skill服務。模型依然是AI應用開發的核心,在華為雲上, 模型的開發可以使用ModelArts,或者通過線下的導入到上面來,然後通過Framework将模型打包成技能,就可以下發到HiLens支持的邊緣或者終端設備上。

　　2、端側算法開發框架Skill Framework檢測。Skill Framework封裝了視頻分析算法基礎組件,如圖像處理、推理、日志等,開發者通過少量代碼即可開發自己的Skill,同時,HiLens還可結合芯片進行性能優化,提供Python和C++接口,在HiLens平台上開發的Skill可以運行到任何基于華為海思芯片的設備上。

　　3、模型優化、自動模型轉換及壓縮能力。包括網絡蒸餾、通道剪枝、權重稀疏化、量化、模型轉換等。

　　4、上文中所提到的豐富的Skill Market,方便模型快速構建。

　　5、設備實時采集視頻流傳輸到雲端,可視化管理多路視頻流。

　　目前,HiLens具備非常豐富的應用場景。例如,在智能園區中可精準追蹤行人軌迹、識别車牌&車型等;在智慧家庭中實現陌生人告警、異常聲音檢測等;此外,在智能車載、智慧工地等場景中,HiLens也可以發揮其功用,達成對疲勞駕駛檢測、安全和姿态監測等。