分布式時序數據庫TimeLyre 9.1發布:海量存儲、高效壓縮、實時分析

2023-08-04 10:08:31 來源:天極網
        【每日科技網】

随着物聯網、車聯網和工業互聯網等的迅速發展,時序數據被廣泛應用在各行各業,包括工業制造、經濟金融、環境監測、醫學、農業生産、硬件和軟件系統監控等領域都在大量使用時序數據揭示研究對象的趨勢性、規律性、異常性。同時,在人工智能的浪潮下,時序數據作為大數據、機器學習、實時預測基礎數據的作用日益凸顯。各類應用産生的時序數據量爆炸式增長,呈現出海量性、關聯性、時效性、實時性等特征,對數據庫寫入、存儲、分析性能以及實時性提出了更高的要求,如何管理海量的實時數據、從中挖掘價值,是時序數據庫需要解決的重要問題。

  Transwarp TimeLyre是星環科技自主研發的企業級分布式時序數據庫,其支持分布式水平擴展,同時具有極高的壓縮率可以支持海量時序數據的存儲,提供高吞吐實時寫入、時序查詢、多維檢索等功能,可以有效支撐物聯網、能源制造、金融量化交易領域等多種時序數據業務場景。

  近日,TimeLyre正式發布V9.1版本,通過原生分布式架構、5-20倍無損數據壓縮能力、每秒千萬級數據吞吐能力、優異的查詢分析性能、豐富的生态支持、靈活的部署方式,為海量時序數據的高效存儲、快速查詢、便捷計算提供了有力支撐,大幅降低了企業硬件成本,保障了時序數據查詢分析的實效性,滿足了時序數據在各類複雜業務場景的應用需求。同時新版本還提供一站式國産化替代解決方案,可以實現InfluxDB的平滑替換,助力企業打造自主可控數據平台。

  原生分布式架構,集群靈活擴展,輕松實現海量時序數據存儲分析

  TimeLyre采用原生分布式架構,支持集群在線擴縮容,可滿足海量時序數據存儲和分析需求。TimeLyre的存儲組件TimeLyreStorage主要由分布式數據管理系統與時序存儲引擎構成。

  * 分布式數據管理系統負責分布式元信息的一緻性存儲與分布式集群管理,基于Raft協議保證數據一緻性與高可用性。

  * 時序存儲引擎使用類似LSM-Tree的技術,提供高吞吐的實時插入、高性能的時序數據檢索,同時會對時序數據進行多種編碼和壓縮,保持整體數據的高壓縮率。

  在計算方面,TimeLyre采用星環科技分布式向量化計算引擎Crux實現快速讀取批量存儲文件、高速響應數據查詢等功能。同時基于用于數據倉庫和交互式分析的分布式編譯器Quark,提供完整的SQL編譯支持,兼容通用開發框架和工具,使得TimeLyre可以輕松融入企業數據倉庫或數據湖體系,為企業提供高性價比和高度可擴展的解決方案。此外,Quark支持分布式計算可以同時在多個時序存儲間平衡業務流量,能夠有效地為客戶端屏蔽掉集群細節,并且解決了時序存儲超時或宕機後無法執行任務的問題。

1691112174964714.png

  高吞吐、高并發,實現單節點每秒千萬級數據寫入的性能

  TimeLyre支持實時、批量等多種數據寫入方式。實時寫入具備高吞吐、高并發,每秒千萬級數據點插入的性能,可以保證數據檢索的實效性,是企業搭建實時數倉的選擇。此外,TimeLyre支持通過SQL、文件載入、API以及多種工業物聯網通信協議實現數據入庫,滿足各種複雜業務場景的多樣化需求。

  高水平無損數據壓縮,實現超高數據壓縮率,大幅降低硬件成本

  TimeLyre采用行業的高水平數據壓縮優化技術,在常見的時序數據上可實現5-20倍的壓縮率,提高了資源的利用率,大幅降低用戶硬件成本。TimeLyre提供多場景數據靈活、高效的壓縮解決方案,不僅支持snapyy、gzip、lzo、zstd等常用壓縮算法,還支持通過Delta編碼将數據作為連續樣本之間的差異來存儲,同時也支持行業特征編碼,根據檢測值數據類型、分布範圍,數據集中度進行特定的編碼,通過内置多種數據壓縮方式進一步提升時序數據壓縮效果。

  數據處理性能增強,提供時序數據存儲分析極速體驗

  時序數據存儲方面,TimeLyre内置多種索引結構,檢索性能達到毫秒級的低延遲響應。數據分析方面,TimeLyre支持通過标準SQL進行數據分析,降低用戶使用門檻。并且支持主流的SQL模塊化擴展,兼容通用開發框架和工具,支持事務特性,保證數據的準确性。通過使用分布式向量化計算引擎,TimeLyre支持海量時序數據的計算與分析,覆蓋關聯查詢、聚合查詢、嵌套查詢等多種複雜SQL分析功能,提供複雜場景構築能力。基于星環科技多模型統一技術架構,TimeLyre時序數據可以與星環不同模型的數據統一存儲管理和聯合分析,打破數據存儲管理屏障,實現多模型數據的統一融合。

1691112226511352.png

  國産軟硬件異構平台靈活部署,提供全面的安全和運維保障

  TimeLyre采用星環科技自主研發的存算分離架構,基于容器技術,支持業内主流的操作系統和芯片,滿足各類信創軟硬件環境需求。并且可支持X86架構和各種國産芯片架構的混合架構,能夠運行在異構CPU架構以及多種操作系統混合部署的集群環境中,化利用硬件資源,讓用戶逐步實現國産化平滑替代。

  TimeLyre内置配套的安全授權、用戶權限控制等相關安全功能,可以有效保障系統數據和訪問上的安全。

  * 在用戶權限認證上,基于SASL提供plain與gssapi兩種認證方式,同時提供用戶組概念,便于通過平台實現統一管理與操作;

  * 在數據權限上,基于角色的訪問控制(RBAC) 機制,使用戶能夠通過将權限分配給角色并将角色分配給用戶或組來授權用戶,支持庫級/表級以及列級/行級訪問權限控制,同時支持20多種脫敏算法,具備的數據隐私保護能力;

  * 數據加密上,支持基于SSL/TLS兩類協議進行數據加密,确保數據傳輸過程的安全。

  一站式國産化替代解決方案,助力企業打造自主可控數據平台

  為符合國家信創戰略要求,助力企業實現軟件自主可控,TimeLyre提供了InfluxDB一站式國産化替代解決方案。TimeLyre對InfluxDB有良好的兼容性,可以實現在不修改業務代碼的情況下,将運行在InfluxDB中的業務和數據平滑地遷移至TimeLyre,并且在遷移過程中可以保證監控系統在線持續運行,充分保障遷移過程安全穩定進行。

  替換InfluxDB涉及接口兼容度、高可用性、中間件與應用層軟件兼容性等多個問題,TimeLyre采用兩段式的替代方案,保障原系統和服務的低成本、安全、平滑遷移。

  * 第一階段:替換InfluxDB的數據庫服務,完成InfluxQL到TimeLyre标準SQL的改造工作,實現原有業務邏輯腳本的平滑替換;

  * 第二階段:替換InfluxDB配套的grafana等運維監控組件,借助星環科技多模數據平台監控軟件Aquila Insight、大數據安全管理軟件Guardian等組件,完成對既有業務系統的完全國産化替換。

1691112286813471.png

  打造實時高性能時序數據平台,賦能能源制造行業數據湖建設

  能源制造業數字化轉型是數字經濟的重要環節。某能源頭部企業現有大量的智能化工業設備,設備檢測具有測點多、頻率高、數據安全要求高等特點。

  傳統關系型數據庫數據入庫慢、存儲資源消耗大、查詢計算效率低,而開源時序數據庫可運維性、可擴展性較差,無法支撐複雜分析業務,同時也面臨數據安全問題,均無法支撐智能工業設備實時産生的大量時序數據。

  該企業基于星環科技TimeLyre的實時數據存儲、分析能力,打造了高性能時序數據平台。通過星環科技實時流計算引擎Slipstream實時的将散布在數萬傳感器中的時序數據抽取到TimeLyre中,以此為基礎進一步開展行業算子計算、實時作業管理等實時分析,以及時序數據檢索、時序數據開發等。同時利用星環科技分布式分析型數據庫ArgoDB進行湖倉集一體化建設,實現了大數據靈活分析、離線作業管理等功能,進一步增強了企業業務數據離線分析能力。

  項目建成後極大提升了時序數據存儲性能,實現了每秒千萬級流數據插入,入庫性能提升十倍以上;實現了高性能查詢,時序數據快速查詢能夠毫秒級返回結果,查詢性能提升十倍以上;大幅提升數據壓縮效率,數據平均壓縮率達到10倍,有效節約企業硬件成本;聯合分布式分析型數據庫ArgoDB滿足了之前未能實現的實時數倉與離線數倉聯合查詢的業務需求。

1691112322325195.png

  攜手頭部券商,打造量化投研一體化平台,提升投研效率

  金融行業數據往往具有數據架構大、數據頻率高、實時性強等特征。某頭部券商客戶使用Python進行數據處理分析,受技術所限隻能進行單機程序部署,不僅需要購買昂貴的高配置單機服務器滿足性能和存儲需求,還需要業務人員具有較高的技術水平完成複雜查詢分析的編寫,此外該技術架構也無法完成多年高頻數據的分析,導緻喪失部分交易機會,整體收益率顯著下降。

  針對該券商客戶遇到的高頻交易數據入庫存儲困難、因子數據分析函數複雜、業務人員技術水平要求高、硬件購置成本高等痛點,星環科技基于TimeLyre打造了量化投研一體化平台TransQuant。

  通過TimeLyre Tools和Workflow實現多源數據接入,包括存儲在Oracle/MySQL中的數據、以HDF5和PKL格式存儲的用戶因子數據以及第三方數據等,将這些數據統一存儲在TimeLyre時序數據庫中,并通過星環科技智能量化投研平台TransQuant對這些數據進行量化回測和因子研究,實現海量數據的複雜分析。

  該平台提供豐富的數據接口,通過Python API與原系統通信,支持多數據源多數據格式遷移導入,實現用戶業務的平滑遷移擴展,支撐多種金融應用場景。同時,TimeLyre作為分布式時序數據庫大大提升了系統運算能力,提供億級數據的高速運算,相同場景下達到Pandas單機性能的百倍以上。此外,特别支持了客戶應用過程中使用的上千列因子數據表,并提供了節點橫向擴展能力。最終通過運用圍繞TimeLyre的系列産品實現了對金融行業海量時序數據入庫、存儲、複雜分析的全面支持。

1691112340245938.jpg

免責聲明:本文僅代表作者個人觀點,與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實,對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關内容。
    本網站有部分内容均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,若因作品内容、知識産權、版權和其他問題,請及時提供相關證明等材料并與我們聯系,本網站将在規定時間内給予删除等相關處理.

猜你喜歡

海能達發布全新專業防爆PDT對講機CH690Ex

随着我國應急管理體系持續完善,消防救援任務正在從傳統火災處置,向化工園區事故、危險品洩漏、地下空間救援、大型綜合災害等多風險、多場景方向發展。在這些複雜環境中,救援現場往往面臨爆炸性氣體、可燃性粉塵、

2周前

海能達CCW 2026載譽收官:AI與融合通信引領專用通信新未來

6月16日至18日,2026年全球關鍵通信展(CCW2026)在英國倫敦舉行。展會期間,海能達集中展示了從終端到系統、從感知到決策的全鍊路創新版圖,AI與融合通信産品及解決方案貫穿三天展期,持續獲得高

4周前

登陸歐洲 Intersolar!遠景AI電力系統支撐全球 AI 算力發展

慕尼黑,2026年6月23日——在IntersolarEurope2026上,遠景科技集團發布面向AI數據中心的下一代電力基礎設施——融合風光儲一體化方案、固态變壓器(SST)、800V直流供電、儲能

4周前

海能達六度問鼎ICCAs,PDC650與西安機場方案摘得雙獎

6月17日,2026年國際關鍵通信獎(InternationalCriticalCommunicationsAwards,ICCAs)在英國倫敦舉行的全球關鍵通信展(CCW2026)期間正式揭曉。海能

4周前

海能達即将亮相2026年CCW全球關鍵通信展: 攜AI與融合通信解決方案登陸倫敦

6月16日至18日,2026年CCW全球關鍵通信展将在英國倫敦啟幕。作為全球領先的專用通信解決方案提供商,海能達将以全場景關鍵通信産品矩陣亮相F25展位,集中展示面向公共安全、應急救援、城市治理等領域

1個月前

海能達再獲第十一屆廣東專利獎:持續自主創新,構築專用通信知識産權高地

近日,廣東省市場監督管理局正式公示第十一屆廣東專利獎評選結果。海能達通信股份有限公司申報的“一種集群通信系統的組派接方法、通信系統及存儲介質”(專利号:ZL201811296617.7)榮獲廣東專利優

1個月前