求索 NoSQL 的現在與未來,第五屆 Techo TVP 開發者峰會圓滿落幕!

2023-02-06 15:02:29 來源:中華網
        【每日科技網】

  日益劇增的數據洪流與變革迅速的新興業務,既引發了互聯網企業對數據庫技術的重新思考,也帶來了傳統行業對數據庫應用的二次迷思。以靈活、易擴展著稱的 NoSQL 在企業數字化轉型的過程中,究竟發揮着怎樣的作用?其重要性體現在哪?未來 NoSQL 數據庫又将迎來怎樣的發展?

  2022 年5月14-15日,第五屆 Techo TVP 開發者峰會 “數「聚」未來,豈止于快——NoSQL 引爆數據效率與價值”正式落下帷幕,12 位來自 NoSQL 領域的知名技術和專家,從性能、效率與數據價值三大方向,與數據庫從業者一起共同探讨了面向未來的 NoSQL 之路。

  Day1:NoSQL前沿技術趨勢

  主持人開場

1-侯聖文.jpg

  峰會第聚焦在 NoSQL 的未來趨勢分析與新技術解讀,由天翼雲首席專家、騰訊雲 TVP 侯聖文老師擔任主持人。會議伊始,侯老師提出,大數據時代,數據量持續性爆炸式的增長,數據存儲結構的靈活多樣,新興業務的日益變革,這些需求催生出數據庫及應用系統的存在形式愈發豐富,也對數據庫的各類能力提供了非常多的一些場景和需求,也給技術人帶來了極大的挑戰和要求。

  嘉賓緻辭

2-林曉斌.jpg

  騰訊雲副總裁林曉斌的緻辭,正式拉開了本屆 Techo TVP 開發者峰會的帷幕。他指出,數字化浪潮中,數據已成為企業最重要的資産,數據庫作為數據存儲的重要基礎設施,任務重大。過去十年間,基礎設施升級、數字化進程加速、雲計算的普及,帶來了數據庫行業的二次高速發展期,雲計算服務商在其中發揮了巨大的作用。

  随着雲數據庫服務進入雲原生時代,數據庫+雲的創新模式将進一步推進雲數據庫技術的革新。NoSQL 是數據庫中非常重要的一大分支,其在海量并發訪問及大規模數據場景下優勢明顯,在軟件架構層面上具備高并發、易擴展、靈活易用等特點。簡而言之,NoSQL 數據庫已經成為現代企業不可或缺的數據庫服務類型。

  騰訊雲在 NoSQL 領域一直持續着戰略級的投入,從産品設計、技術創新、客戶服務、再到生态建設,都有着經年累月的探索和實踐。騰訊雲公有雲已經提供了包括緩存、文檔、時序、KV 等在内的數據庫服務,并仍在持續豐富服務種類。與此同時,騰訊雲也在積極推動外部合作,比如與 MongoDB 簽署戰略合作協議。

  他最後總結道,騰訊雲 NoSQL 數據庫已經覆蓋了包括金融、電力、電商、遊戲、視頻等數十個典型行業應用場景,未來,騰訊雲将在 NoSQL 數據庫領域持續投入,堅持技術創新,以服務企業為根本,助力企業降本增效,提升生産力。

  解放生産力:騰訊雲 NoSQL 的順勢而為與變革創新

3-羅雲.jpg

  騰訊雲數據庫副總經理羅雲帶來了題為《解放生産力:騰訊雲 NoSQL 的順勢而為與變革創新》的主題演講。

  他首先向與會者介紹了過去十年,NoSQL 數據庫的發展曆程。他表示,随着互聯網業務的快速增長,海量用戶、海量數據、實時體驗、快速疊代的要求帶來了 NoSQL 的飛速發展。騰訊雲 NoSQL 的發展史也是順勢而為,一脈相承,在緩存、KV、文檔、圖、時序、寬列、表格這系列的場景中,騰訊雲都有提供相應的産品服務。

  衆所周知,Redis 在過去5年間一直是的 NoSQL 數據庫産品,但是 Redis 的應用場景早已突破了緩存的範疇,特别是在存儲場景中的應用越來越廣泛,但是企業在存儲場景中使用 Redis 會面臨着規模、成本、持久化的難題,業界今年多有推出 Redis 的持久化産品,但是大多數産品通常能夠滿足業務在性能、成本、持久化、規模4個訴求中的2~3個,很少有4個訴求能同時滿足的。羅雲老師表示,騰訊雲通過創新性的軟硬結合提供性能、三級存儲解決性能、持久化、成本、規模難題的解法,KeeWiDB 團隊實現了的突破,做到了:

  性能(單節點):20 萬讀取,18 萬寫入,P99<2ms 可水平堆疊,性能線性提升;

  成本:三級存儲,冷數據成本下降 97%;

  持久化:命令級持久化;毫秒級穩定寫入延遲;SSD 提供低成本持久化;

  大容量:單節點提供 TB 級容量空間;集群方式提供 100 TB容量空間。

  分享最後,羅雲老師表示,技術人的目的是讓整個社會的生産效率變得更高,讓整個社會的生産力能夠變得更好,希望可以用技術的方式去實現這些美好的願望。

  新硬件賦能創新:數據發展趨勢及軟硬件融合解決方案

4-程從超.jpg

  随着技術的發展,新硬件的出現帶來了更多可能。英特爾數據庫及大數據首席工程師、騰訊雲TVP程從超&英特爾數據平台事業部傲騰産品事業部中國技術中心工程部經理吳國安聯手帶來了題為《新硬件賦能創新-數據發展趨勢及軟硬件融合解決方案》的主題演講。

  程從超老師向與會者介紹道,數據處理架構領域目前有以下幾個非常明顯的趨勢:從Scale up 到 Scale out ;從物理機到雲原生;從 share-everything 到 share nothing 再到 share everything;内存數據庫+對象存儲;行存和列存并存。因此,數據處理端到端、系統優化端到端成了其中至關重要的部分。

5-吳國安.jpg

  吳國安老師接棒講解了英特爾傲騰新硬件的特性,其可以降低數據中心的成本、可以整合工作負載,嘗試對數據做更多的事情,在釋放數據潛能方面具備強大能力。英特爾傲騰在 NoSQL 數據庫、推薦系統、KV 存儲等方面均有着傑出的用例。

  吳國安老師最後總結道:

  數據分析的發展,需要更多的軟硬件一體的融合解決方案;

  英特爾®傲騰™帶來新的内存和存儲層,更容易的擴展内存和加速存儲;

  更加均衡的成本和性能,為你的業務提供更多、更好的選擇;

  新硬件帶來了新的業務創新,讓不可能成為可能;

  更加開放的生态,更加開放互連的系統,更多的客戶擁抱新硬件。

  MongoDB應用數據平台技術洞悉與實踐分享

6-林濤.jpg

  MongoDB 北亞區技術總監林濤帶來了題為《MongoDB 應用數據平台技術洞悉與實踐分享》的主題演講。

  分享伊始,林濤老師抛出了一個令人觸目驚心的數據:70% 的企業數字化轉型都以失敗告終。究其原因,在于大部分數據基礎設施仍然圍繞傳統的關系數據庫構建,無法滿足當前企業使用和處理數據、構建程序的需求。圍繞這些需求,選擇添加專用的 NoSQL 數據存儲,又帶來了新的問題。

  林濤老師介紹道,改變複雜的數據存儲結構、讓開發效率變得更高、讓架構變得更簡單、同時具備安全性和易管理性等特性,正是 MongoDB 想要實現的。具體而言,MongoDB 提供了以下産品能力助力企業騰飛:

  提供靈活的文檔模型;

  提供統一的接口;

  分布式的架構;

  冷熱數據的自動遷移;

  客戶端字段級加密。

  最後,林濤老師介紹了多個使用 MongoDB 構建數據平台的實踐案例,通過數據平台的方式,讓開發人員和企業能夠以更低的成本加速創新。

  直面海量圖數據挑戰,騰訊在圖數據庫的業務實踐與應用

7-肖品.jpg

  騰訊雲圖數據庫技術負責人肖品帶來了題為《直面海量圖數據挑戰,騰訊在圖數據庫的業務實踐與應用》的主題演講。

  肖品老師表示,随着大數據爆發式的增長,數據之間的關系更加複雜多樣,對關系數據的關聯性計算和分析成為常态需求,由此帶來了圖數據庫技術的騰飛。在騰訊内部,圖技術被廣泛應用在圖數據庫、圖計算、圖可視化等領域。

  肖品老師重點介紹了騰訊圖數據庫 KonisGraph 的架構、性能及使用案例等關鍵内容。KonisGraph 在架構層面采用的是接口層、計算層、分布式緩存、存儲層的模式,設計原則是存算分離,保證部署的靈活性。在優化策略上,也做了異步并行、向量化、批量預取以及計算下推等優化。此外,在緩存、索引等策略上也都有獨到的設計理念。

  除此之外,肖品老師還分享了 GraphIdex 圖可視化的設計理念及性能效果、Angel Graph 圖計算及其框架性能,以及 KonisGraph 圖數據庫的相關用例。他最後表示,KonisGraph 未來将在以下方向持續優化,完善自身。

  融合圖計算引擎;

  GQL 語法的支持;

  自研存儲層;

  緩存層完善;

  完善周邊組件及平台能力。

  雲原生多模 NoSQL在特征存儲上的應用實踐

8-趙政.jpg

  騰訊 PCG 應用架構平台部 NoSQL 開發負責人趙政,為我們帶來了題為《雲原生多模 NoSQL 在特征存儲上的應用實踐》的主題演講。

  趙政老師介紹道,雲原生多模數據庫是當前很多公有雲廠商提供雲托管存儲服務的方式。騰訊自研的雲原生多模型 NoSQL 數據庫,通過抽象高擴展的數據以及高複用的工作流框架,構建了具備容災備份、數據分層、多種一緻性等能力的通用平台底座,根據業務需求靈活定制可插件化的存儲引擎框架和擴展 API,提供數據模型的靈活擴展和快速接入能力。

  在特征存儲的主題上,趙政老師具體分享了“特征”存儲的特點、技術挑戰,企業需求和當前的解決方案等背景信息。基于這樣的背景,騰訊雲原生多模 NoSQL 在系統設計和實踐上要考慮關鍵的兩點:首先要支持多級存儲能力,第二是存算分離。在存儲引擎方面,要考慮到同時适用于内存、持久化存儲的需求。除此之外,其他需求則可以靠多模 NoSQL 的平台來提供支撐。這其中涉及到的諸多技術挑戰,趙政老師都非常細緻地向與會者做了分析。

  分享最後,趙政老師表示,騰訊雲原生多模 NoSQL 平台已接入五大業務,日均調用量超過千億,TB 級全量數據更新低于 1H,分鐘級 GB 增量數據更新,顯著實現了降本增效的業務收益。談到騰訊雲原生多模 NoSQL 的未來展望,他向與會者描繪了一幅搜廣推場景存儲和索引雲一體化解決方案的美妙藍圖。

  Day2:NoSQL技術實踐與應用

  峰會第二天聚焦于 NoSQL 數據庫在各行各業的實踐應用,由 CCIA 常務理事、騰訊雲 TVP 韓鋒老師擔任主持人。

  主持人開場

9-韓鋒.jpg

  韓鋒老師提出,随着數字化轉型的深入,數據越來越得到人們的重視,移動互聯網的蓬勃發展産生了大量語音、圖像、視頻等非結構化的數據,這些數據蘊含了非常豐富的信息,如何把這些數據的價值挖掘出來,如何利用 NoSQL 來助力創新業務的落地,賦能業務快速發展成為企業數字化轉型中至關重要的一環。

  金融場景下的 NoSQL 實戰:微衆銀行 Redis 應用實踐

10-胡盼盼.jpg

  微衆銀行數據平台數據庫負責人、騰訊雲 TVP 胡盼盼帶來了題為《金融場景下的 NoSQL 實踐:微衆銀行 Redis 應用實踐》的主題演講。

  分享伊始,胡盼盼老師為與會者介紹了社區版 Redis 的痛點。他表示,分片架構主節點異常對集群有影響,權限管理功能有限,資源統計和資源控制功能非常有限,缺少統一的運維與管理平台是微衆銀行在使用社區版 Redis 遇到的痛點問題。

  為此,微衆銀行自研了基于 Redis 的分布式緩存平台 WeRedis,除擁有開源 Redis的特性外,還有如下特性:

  多租戶與細粒度的鑒權;

  資源控制;

  子系統進行資源控制;

  高危操作隔離;

  擴展性更高;

  可用性更高;

  智能分析與管控。

  胡盼盼老師表示,WeRedis目前已經應用在全行所有的業務場景,有 300+ 系統接入、87 套集群、4000+ 實例數。随後,他具體介紹了 WeRedis 的跨 IDC 部署架構,以及運維過程中在性能、高可用、容量等問題上踩過的坑,并無私分享了從複盤中不斷優化來的 WeRedis 應用開發規範。

  随後,他還分享了包括 WeRedis 管理台功能、鑒權管理及高可用相關的設計與思考。他最後表示,未來 WeRedis 将在容器化、升級到 Redis Cluster 6.0 以及持久化架構等方面繼續打磨精進。

  騰訊音樂 NoSQL 應用與實踐:基于 Redis 和 MongoDB 構建社交類業務後台

11-李革委.jpg

  全民K歌基礎研發後台 Leader 李革委帶來了題為《騰訊音樂 NoSQL 的應用與實踐:基于 Redis 和 MongoDB 構建社交類業務平台》的主題演講。

  分享伊始,李革委老師為與會者介紹了騰訊音樂 NoSQL 的應用概況,據他介紹,騰訊音樂旗下 QQ音樂、酷狗音樂、酷我音樂、全民K歌四大App的特點是多媒體社交 + 多媒體内容,大量應用了 NoSQL 數據庫。

  李革委老師表示,從業務架構的層面看,數據庫選型需要考慮的是匹配業務模型、扛住海量請求、平衡成本開銷三大關鍵點。在這樣的原則出發下,騰訊音樂在 Redis 和 MongoDB 兩種開源數據庫産品下都有深厚的應用實踐。

  具體到 Redis 下,實踐維度包括:

  KV讀寫;

  CAS解決方案;

  分布式鎖;

  輕重分離;

  列表排序;

  Bitmap;

  分布式定時器。

  在 MongoDB 下,實踐維度包括:

  Embed or Reference;

  列表存儲設計;

  Replication 策略;

  maxTimeMS 注意事項。

  李革委老師最後介紹道,這其中自研的很多相關技術方案已經在騰訊雲的數據庫産品中可以使用。他還特别提醒與會者,不要輕視生産環境下的數據庫應用與操作,避免發生影響重大的事故。

  Infinity:微信新一代大規模在線存儲系統

12-鄭建軍.jpg

  微信技術架構部基礎平台的 Leader 鄭建軍帶來了題為《Infinity:微信新一代大規模在線存儲系統》的主題演講。

  在微信的大規模體量下,對存儲的高可用性、高可靠性、性能、成本、低延時都提出了非常苛刻的要求,鄭建軍老師首先介紹了微信存儲的發展曆程。微信存儲的發展總體上可以分為四個階段:第一階段的 QuorumKV;第二階段是2015年的 PaxosStore;第三階段是 2018 年期間對 PaxosStore 的能力增強;第四階段是新一代大規模在線存儲系統 Infinity。Infinity 是微信新一代大規模在線存儲系統,支持多種數據模型,通過一套統一架構應對不同的業務場景,提供線性一緻和近實時訪問模式。

  鄭建軍老師解釋道,Infinity 的誕生背景源于業務對可用性/可靠性提升、更加靈活的調度能力、更快的擴展速度、推薦/直播等業務場景單 key/單表高性能需求。具體而言,Infinity 的核心特性包括以下幾個方面:

  路由中心徹底去依賴:保持非租約高可用水平提升擴展性;

  數據存儲與複制日志解耦:靈活支持存儲異構/插件化和多種容災模式;

  機器故障自動極速恢複:實現可用性/可靠性的數量級提升;

  穩定可控的集群擴展:解決高負載集群的擴容悖論。

  分享最後,鄭建軍老師也介紹了 Infinity 在微信業務中的運營成效,其中動态負載均衡、模塊混合調度部署,利用率提升,3萬+台的規模每年節省約數億成本。此外在除夕零點峰值的更快擴展,視頻号奧運期間大量異構機型擴容的案例,也突出展現了 Infinity 的特性能力。

  圓桌對話:上下十年,數據庫技術的發展與變遷

  精彩的技術分享環節結束後,接踵而至的是啟發思考、碰撞價值的圓桌環節。本次圓桌對話以《上下十年,數據庫技術的發展與變遷》為話題,由 CCIA 常務理事、騰訊雲 TVP 韓鋒老師主持,英特爾數據庫及大數據首席工程師、騰訊雲 TVP 程從超老師,騰訊雲數據庫副總經理羅雲老師,微衆銀行數據平台數據庫負責人、騰訊雲 TVP 胡盼盼老師,全民K歌基礎研發後台負責人李革委老師各抒己見,娓娓而談,展開了精彩的對話。

  作為一個老牌的技術方向,數據庫技術已經走過了數十年,在最近十年間又有了飛速的發展。最受人關注的話題莫過于——未來十年,數據庫技術将有哪些新的發展趨勢?

  程從超老師的觀點是,在底層算力沒有發生革命性變化的前提下,未來的發展方向是 Serverless、内存化、分布式、計算存儲分離的形态。而這其中不可避免的是要考慮更多安全的問題,這又會對數據庫技術的發展帶來制約和新的契機。

  羅雲老師表示,騰訊内部對于數據庫技術的發展趨勢早已有過讨論,内部技術委員會比較明确地在幾個方向上達成了一緻:第一是國産化,第二是多模型的融合化,第三是雲原生化趨勢下的軟硬件結合突破。

  胡盼盼老師則從微衆銀行的業務實踐出發,提出了混合事務模式發展的趨勢,他表示混合架構的需求一定存在,未來也将成為很多數據庫具備的特性。另一個暢想的點是基于新興開源數據庫的一體機産品的出現,滿足中小金融機構無力運維的痛點。此外,國産化的趨勢也是胡盼盼老師認同的一個方向。

  李革委老師則從騰訊内部業務的發展出發,表示了對數據庫技術融合的發展趨勢的贊同。融合一方面在業務側可以減少消耗,另一方面也可以促進技術上的推陳出新融會貫通。作為開源文化的擁趸,李革委老師表示開源也極有可能是數據庫技術的一大發展趨勢,通過開源的協同、社區哺育,必将推動業務的發展。

  最後,主持人韓鋒老師總結了技術、業務、開源三個方向的理解和認知,從技術側,資源分離、數據分層、Serverless 應用都是數據庫發展未來可期的方向;在業務側,大量差異化的場景會催生數據庫走分化的路線,但同時也會有分而治之之後融合的趨勢;同時,開源也是一種很好的商業模式,可以通過開源的模式去調動更多的資源來做底層的開發。韓鋒老師表示無論是從哪個方向出發,數據庫技術的發展都将幫助企業和開發者們受益其中。

  結語

  數據庫技術的發展史,幾乎可以視作技術人不斷突破極限,追求更高、更快、更強的奮鬥史。數據庫技術倏忽數十載,既有關系型數據庫的獨占鳌頭,又有 NoSQL 的異軍突起,既有商業數據庫産品的強悍穩定,又有開源數據庫産品的持續創新,現在又迎來了雲與數據庫的美妙結合。這一方百花齊放的舞台上,既不缺演員,也不少觀衆,但對于技術的思考、趨勢的判斷卻總不嫌多。

  本次 Techo TVP 開發者峰會,一以貫之的理念正是通過最用心的分享、最前沿的洞察、最實際的觀點,為開發者朋友獻上“最有料、有趣、且有用”的開發者峰會。在這個時代轉型的浪潮下,堅守科技向善的初心和本心,助力企業與開發者一起通往技術發展的理想國。

免責聲明:本文僅代表作者個人觀點,與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實,對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關内容。
    本網站有部分内容均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,若因作品内容、知識産權、版權和其他問題,請及時提供相關證明等材料并與我們聯系,本網站将在規定時間内給予删除等相關處理.

猜你喜歡

海能達發布全新專業防爆PDT對講機CH690Ex

随着我國應急管理體系持續完善,消防救援任務正在從傳統火災處置,向化工園區事故、危險品洩漏、地下空間救援、大型綜合災害等多風險、多場景方向發展。在這些複雜環境中,救援現場往往面臨爆炸性氣體、可燃性粉塵、

2周前

海能達CCW 2026載譽收官:AI與融合通信引領專用通信新未來

6月16日至18日,2026年全球關鍵通信展(CCW2026)在英國倫敦舉行。展會期間,海能達集中展示了從終端到系統、從感知到決策的全鍊路創新版圖,AI與融合通信産品及解決方案貫穿三天展期,持續獲得高

1個月前

登陸歐洲 Intersolar!遠景AI電力系統支撐全球 AI 算力發展

慕尼黑,2026年6月23日——在IntersolarEurope2026上,遠景科技集團發布面向AI數據中心的下一代電力基礎設施——融合風光儲一體化方案、固态變壓器(SST)、800V直流供電、儲能

1個月前

海能達六度問鼎ICCAs,PDC650與西安機場方案摘得雙獎

6月17日,2026年國際關鍵通信獎(InternationalCriticalCommunicationsAwards,ICCAs)在英國倫敦舉行的全球關鍵通信展(CCW2026)期間正式揭曉。海能

1個月前

海能達即将亮相2026年CCW全球關鍵通信展: 攜AI與融合通信解決方案登陸倫敦

6月16日至18日,2026年CCW全球關鍵通信展将在英國倫敦啟幕。作為全球領先的專用通信解決方案提供商,海能達将以全場景關鍵通信産品矩陣亮相F25展位,集中展示面向公共安全、應急救援、城市治理等領域

1個月前

海能達再獲第十一屆廣東專利獎:持續自主創新,構築專用通信知識産權高地

近日,廣東省市場監督管理局正式公示第十一屆廣東專利獎評選結果。海能達通信股份有限公司申報的“一種集群通信系統的組派接方法、通信系統及存儲介質”(專利号:ZL201811296617.7)榮獲廣東專利優

1個月前