首頁
>
資源
>
用戶案例
/
全部

中冶賽迪*IoTDB | 多項目全流程以IoTDB為時序數據處理方案,預計寫入查詢效率提升一倍

中冶賽迪信息技術(重慶)有限公司是中國五礦(由兩個世界500強企業,原中國五礦和中冶集團戰略重組形成的中國大型金屬礦業企業集團)旗下智能化信息化業務板塊引領企業,主營業務包括智能制造、智慧建造相關產品、技術及行業解決方案等。以擁有60余年工程技術實踐的產業部門做協同,將5G、云計算、大數據、人工智能、工業互聯網、物聯網等數字技術與傳統冶金、礦業、鋼鐵等工程技術深度融合,致力于數字化轉型共性解決方案研究,打造數字化轉型產品和服務。

時序數據是工業互聯網的核心數據。中冶賽迪主營的鋼鐵工程、能源工程中,時序數據占據總數據量的95%以上。這些時序數據主要產生于生產運行的實時效率和安全監控,以及設備運行的實時故障監控。因時序數據本身的上報頻率高、數據量大、實時性強等特性,現有的數據庫解決方案存在局限性。因此,中冶賽迪希望尋求對于時序數據更優的寫入、查詢、存儲、分析方案。基于IoTDB 時序數據庫的特點和優勢,中冶賽迪選擇使用IoTDB作為工業互聯網平臺的時序數據處理方案。使用此方案將有效提高寫入、壓縮、查詢、存儲多維度的性能與效率。

1.業務需求痛點

1.1 高穩定性和及時運維

鋼鐵、能源的生產過程往往存在高能耗、多排放的特點。出于防止能量源泄露、排放污染等多類安全事故的需要,數據平臺時刻監控生產過程的安全性指標。而且因生產規模較大,為使生產滿足大量訂單的要求,數據平臺也需監控生產功效相關的指標。兩類指標都希望數據平臺功能穩定,能夠實現實時穩定監控,且不會泄露核心生產數據。因此,作為監控安全與正常生產數據重要的工具,所需的數據庫的性能應具有高穩定性、高安全性,并需要后續較好的運維服務,以便快速修正使用過程中的任何性能與功能故障。

1.2 單項目百萬級測點數

因鋼鐵、能源等行業需按時間序列密切監控生產、運維全流程的各個數據維度,確保生產資源的高效使用及生產過程的安全性和高效,相關項目均需密集的寫入點位進行數據監控。以一個初期鋼鐵項目舉例,包括生產、運維全流程的一家鋼廠初期整體需管理約4萬個設備,初步有約25萬點位采集點,且還會隨項目擴張而不斷增長。中冶賽迪預估單項目約有百萬點位采集點。各項目采樣頻率從10毫秒級至10秒不等,以1秒頻次為主。中冶賽迪項目對于采樣點的拓展需求及不同頻次的兼容需求較高。

1.3 上百TB級數據儲存

基于上述眾多點位數上報的實時時序數據,一個初期鋼鐵項目新增數據量可達到15億條/天,存儲空間可達到6GB/天,一項目儲存全部數據量約2.9千億條,中冶賽迪有上百個這樣的鋼鐵項目基地,數據內存的需求很大。另外,因鋼鐵、能源行業需大量歷史時序數據進行生產效率及設備性能方向的分析,對于歷史數據的存儲量及壓縮比要求較高。如高爐煉鐵行業,極限情況下需存儲15-20年數據,至5年歷史數據可達100-200TB左右。

1.4 多表聚合查詢需要

因數據監視維度多,鋼鐵及能源的各維度原始數據,如轉爐鋼鐵料消耗、氧氣密度、水壓,經常被分隔單獨存放在一張表中。而現場綜合監控所需要的數據形態往往是一個綜合各指標數據的數據展示,這就需要使用多表聚合查詢。中冶賽迪現有的數據查詢系統僅支持查詢單獨數據后在代碼中做聚合,導致查詢效率較低。中冶賽迪希望后續可以實現一設備一表的數據結構,以時間為基礎做設備數據的多表查詢。

1.5 實時監控及展示

業務使用場景經常要求鋼鐵、能源的相關時序數據在展示大屏等設備進行實時投屏,并需要以一定頻次進行刷新,以便掌握行業相關指標的實時變化。這需要進入數據庫存儲階段的相關數據已經過簡單的預處理,實現部分簡單計算和統計,并可迅速通過大數據分析方法在各展示設備以可視化的方式呈現出數據趨勢及實時具體數值,方便對設備及生產過程的及時調整。

2.數據庫選型

中冶賽迪對國內外5款產品進行了分析比較,總結優劣勢如下圖(紅色部分越多代表單項越高):

中冶賽迪調研認為,以上數據庫均不滿足集團需求。最終選型IoTDB作為時序數據處理系統的核心,原因為下述幾個IoTDB的性能、功能、品牌領域方向的優勢。

2.1 高速高頻數據寫入

針對鋼鐵、能源行業對于時序數據頻密寫入的要求,IoTDB能夠實現每秒千萬數據點寫入的能力,且寫入速率不隨數據量增長而下降,維持穩定高速水平。同時,因高頻的寫入-存儲過程中可能存在數據異常的業務場景,IoTDB能夠支持時間序列數據的亂序寫入、按時間對齊、空值填充等多種數據預處理操作,讓大量原始數據可在較短時間內轉換為完整的待下一步分析數據。

2.2 實現高壓縮比

針對鋼鐵、能源行業對于時序數據存儲有多維度、長年限的要求,IoTDB針對時間序列優化的文件存儲格式 TsFile支持有損壓縮、無損壓縮、二級壓縮等多種壓縮方法,可大幅提升歷史數據壓縮比,有效減少總數據量,節省存儲成本,并在同樣內存條件下存儲更長時長的歷史數據。

2.3 支持高效數據讀取和查詢

針對鋼鐵、能源行業對于多維度時序數據同時查詢,需要提升查詢效率的需求,IoTDB采用從根節點以下,以數據點自帶的時間戳,與多層級存儲的路徑結合的存儲架構,使得不同維度的時序數據可以被有效分類存儲,并在查詢時可較快確定IoTDB中的時序數據,從而加速多維度查詢的效率。同時,IoTDB通過預聚合和時序索引支持快速數據過濾、高效聚合查詢、降采樣查詢等典型時序數據查詢種類,使篩選后的數據以更小的數據量,達到更快的查詢速度,且不影響查詢者的輸出需求,實現每秒數百萬數據點查詢的能力。

2.4 便攜實時計算及強集成能力

針對鋼鐵、能源行業對于時序數據的實時計算、分析、可視化需求,IoTDB提供統計分析計算函數,可以進行基于各類時間單位的統計計算。用戶也可在此基礎上在IoTDB中自定義計算公式,從而實現對時序數據的個性化復雜計算,計算結果也可保存在IoTDB中以備再次計算,有效提升實時計算效率。此外,IoTDB能夠實現與PLC4X、Pulsar、Flink、Spark、Hadoop等大數據系統的無縫集成,通過對接生態中的各種軟件,可提高時序數據分析系統在大數據管理和分析方面的運行效率和處理能力。IoTDB還可以對接開源可視化工具Grafana,提供以可視化圖表查看、分析數據的方式,也可以提供數據監控、告警等維護數據安全性的操作。

2.5 穩定性高、性價比較好

中冶賽迪經過對各個時序數據庫競品的對比分析,認為在國產化趨勢不可逆轉的情況下,具有自主知識產權、技術可控、成本可控的工業實時數據庫有比較好的市場競爭力,相信涉及專業的時序數據需交給專性數據庫處理,產品穩定度和對品牌的信任度都將更高。

IoTDB在多類CPU架構、操作系統、服務器的穩定性均表現較好,獲得中科曙光、中科可控、海光、長城、麒麟等多個公司出具的兼容性互認證證書,硬件兼容能力較好。

同時,IoTDB的創始團隊匯集了來自清華大學、UC Berkeley、德國 Fraunhofer 研究所、德國法蘭克福能源集團、微軟等一批數據庫核心技術專家和工業資深專家,擁有十幾年研究和服務工業用戶的經驗。在時序數據管理領域,團隊成員擁有中國、美國、歐洲等發明專利30余項,有著堅實的先進理論基礎。IoTDB團隊深厚的技術背景及對于產品優化的積極響應態度,讓中冶賽迪對IoTDB的及時運維服務表示看好,期待IoTDB未來更加適配中冶賽迪的應用場景,做與行業聯系更加緊密的時序數據庫。

在成本方面,因項目生態經常需要大批新增寫入節點,故新增寫入節點的成本被尤其看重。中冶賽迪認為IoTDB的新增寫入節點成本較低,成本較為可控,整體性價比較高。綜上三點,中冶賽迪對于IoTDB的產品和品牌能力表現認同。

2.6 開源社區促進團隊緊密合作

IoTDB的創始團隊由 Apache(國際開源軟件基金會)旗下 IoTDB、PLC4X 兩大物聯網項目開源社區的發起人和核心開發者組成,開源氛圍濃厚,專注于在為用戶提供支持的同時,又一如既往地參與開源社區建設。中冶賽迪認為IoTDB是重要的生態伙伴。IoTDB社區積極探討產品可優化問題,并有效的將社區內對于產品的優化建議轉變為產品的實際優化項,這將大幅加速IoTDB的研發與迭代過程,并將與中冶賽迪的自身需求一起成為產品進步的重要動能。

中冶賽迪研發團隊也針對IoTDB監控數據的可視化需求,設計完整的實時可視化管理工具IoTDB Workbench,針對數據庫連接管理、數據處理、元數據管理、用戶管理、運維監控可視化五大方向整合各項指標和系統,囊括訪問數據庫、角色權限調整、數據處理、數據存儲組管理、多維度監控指標展示等功能,實現IoTDB數據的實時可視化分析,簡化IoTDB的使用及學習成本,并保障實時數據庫的研發、運維、管理工作的高效可靠。

3.解決方案架構

中冶賽迪水土云工業互聯網平臺(CISDigital)旨在助力工業智能應用構建和實現,由數據開發治理、業務開發連接、云原生開發運維三大板塊組成。作為智能制造數字化核心中樞,此平臺致力于實現工業知識、模型和歷史數據的沉淀,并面向工業場景提供業務與數據的共享服務體系,降低企業IT的重復建設、減少煙囪式協作成本、敏捷響應前端業務的快速變化。

中冶賽迪以中冶賽迪工業實時數據庫(CISDigital-TimeS)構成中冶賽迪水土云工業互聯網平臺數據開發治理部分的核心,并使用IoTDB作為工業實時數據庫的中心,參與從現場層進行數據采集、數據寫入、數據存儲,并根據業務特性進行特性數據處理、數據查詢、數據計算、數據分析、數據展示的全流程。

IoTDB將針對數據開發治理流程中涉及使用的核心功能,如查詢、存儲、清洗,提供速度更快、性能更高、效果更好的解決方案,并同時針對數據流中存在的具體管理痛點,如集群管理、雙活管理、MPP調度、運維指令等方向,提供技術上的優化方案。這些解決與優化方案會被運用于冶金聚合函數庫、冶金設備時序對齊、冶金場景觸發器、自定義規則降采樣、實時數據工具臺等中冶賽迪的具體應用場景,并會根據行業領域的特性做出調整,以更符合特性場景的需求。最后,這些應用場景將助力實現智能生產調度、智慧能源管控、煉鋼智能管控等中冶賽迪希望通過時序數據的高效管理能夠達成的工業目的。

4.業務效果及收益

目前中冶賽迪將IoTDB與現在使用的InfluxDB單機版表現進行對比,各性能數據均有提升:

后續中冶賽迪將與天謀科技密切合作,希望能夠面向中冶賽迪的主營行業,結合已有功能做出專項適配的時序數據庫。

更多內容推薦:

? 了解更多 IoTDB 應用案例