sponsored links

智維資料運維時效資料消費場景分析

智維資料運維時效資料消費場景分析

時序資料的挑戰

‍‍‍‍‍‍

在資料中心IT運維管理中,流量資料的分析價值越來越受到使用者的重視,目前使用者透過對資料中心進行全流量採集,可實現網路、業務及安全的實時監控分析,實時重新整理精度可達到秒級,並快速發現數據中心產生的異常資料。監控資料採用時序資料處理,可實時繪製不同維度上百個指標的趨勢變化。資料中心每天會產生上百億的資料條目,達到PB級的流量資料。

運維人員在進行長時間的資料檢索時,會面臨效率較低的問題,並且資料儲存時長難以保障。所以面對一些資料消費場景時,時序資料的處理很難滿足運維需求。在使用者資料中心內,業務呼叫關係複雜,當業務系統要做遷移操作時,遷移後要保證該業務系統對外提供的所有服務與原有保持一致,而運維人員往往很難掌握業務系統之間的呼叫關係。所以要透過流量資料提供一份準確的訪問關係表,這張關係表不關注是在哪個時間進行呼叫以及過多的效能指標,只需要知道有誰跟本系統發生了訪問關係。另外,當某個服務要做變更操作時,也需要歷史資料的支撐來判斷該服務的影響範圍。為解決上述問題,客戶往往提出如下需求:

1、資料儲存時間要長,有些業務呼叫可能週期性一週、一個月才來呼叫一次,或者更長週期,只有長的時間的跟蹤才能保證資料的準確性。

2、資料要完整,由於時序資料資料量巨大,往往會採取抽樣、或者TOP的方式來提供服務,不能保障資料的完整性。

3、查詢效能,在海量的資料中進行查詢,會導致消耗大量系統資源,給資料承載的系統帶來巨大的壓力。

運維時效資料解決方案

為了滿足更長時間精準統計資料需求,智維資料推出時效資料解決方案。將時序資料轉化為時效資料,提供長時間、高效、靈活的查詢統計服務。

智維資料運維時效資料消費場景分析

該解決方案的特點有:

1、資料保留期限長時序資料資料量巨大,儲存存滿後系統會自動刪除最早的資料,因此儲存期限較短。時效資料將時序資料進行有效的聚合、去重以及壓縮,經測試平均每天可處理50萬條資料,90天可處理的資料量大概在4500萬條,經過聚合、去重,資料的儲存量大概在200萬左右,極大程度的壓縮了資料儲存量。

2、全量資料統計智維資料nCompass網路流量分析平臺從資料採集到資料處理,沒有經過抽樣、TOP的處理方式,可以保證資料的完整性以及準確性。

3、緯度、指標可靈活組合時序資料提供眾多緯度和指標,使用者可根據需求自定義生成時效資料,透過緯度及指標過濾精準輸出。

智維資料運維時效資料消費場景分析

智維資料運維時效資料消費場景分析

選擇時效資料緯度及指標

智維資料運維時效資料消費場景分析

智維資料運維時效資料消費場景分析

過濾時效資料緯度及指標

4、提供靈活的資料服務介面

時效資料除了在智維資料nCompass網路流量分析平臺上進行本地資料消費外,還提供了標準的API介面,供外部應用呼叫。

時效資料消費場景

1、業務系統互動查詢

應用運維中業務互動關係資料可為很多場景中提供資料支撐,例如:系統變更、遷移、上下線、故障排查等。透過流量和CMDB資料縫合,提供時序資料以及時效資料無縫查詢。

智維資料運維時效資料消費場景分析

【上圖為demo資料演示】

2、防火牆策略最佳化

智維資料nCompass防火牆策略視覺化平臺透過防火牆策略及防火牆前後的流量匹配關聯,幫助使用者最佳化防火牆策略,如無命中的策略、大策略收斂等場景都需要長時間的時效資料進行校準,才能夠精準的對策略進行最佳化,避免由於策略刪除、收斂產生的問題。

智維資料運維時效資料消費場景分析

【上圖為demo資料演示】

3、業務訪問安全防護欄杆

內網業務系統互動關係變化相對較小,透過時效資料自動生成業務互動訪問白名單,對業務互動關係變化實時監控,如有新增訪問,平臺將透過告警或報表的形式進行輸出,運維人員可及時排查新增訪問是否合規或者是否存在安全隱患。

4、出訪記錄安全回溯

基於安全合規要求,運維人員需要在平臺上對所有出訪記錄進行儲存半年或一年以上時間,智維資料靈瓏應用交付最佳化平臺能夠採集負載均衡、防火牆、路由器等裝置的地址轉換關係表,並可與流量資料進行縫合。並且可以提供內網IP至目的IP,SANTIP至目的IP長時間的歷史回溯。

面對運維中多樣的資料統計需求,時效資料的運用提升了長時間資料的統計檢索能力,幫助使用者從海量資料中精準提取,同時大大節省了儲存成本。透過對時序資料再加工生成時效資料,充分發揮了流量資料在運維工作中的使用價值。

智維資料運維時效資料消費場景分析

分類: 科學
時間: 2021-12-17

相關文章

會睡覺的人,更長壽?醫生:睡前做好4個準備,你也能“躺贏”

會睡覺的人,更長壽?醫生:睡前做好4個準備,你也能“躺贏”
眾所周知,睡得好不好對一個人的身心健康影響是非常大的.睡眠質量低下是很容易造成身體過度疲勞和免疫力下降問題的,在這種情況下,時間長了,各類疾病的患病機率都是會明顯上升的. 所以對每一個人而言,養成良好 ...

研究發現:自我感覺年輕的人可能更長壽

研究發現:自我感覺年輕的人可能更長壽
生活中,我們很多人都可能會有這樣的感覺,那就是覺得自己比實際年齡要年輕.根據英國的一項研究,如果你擁有這種想法,可能是你身體健康的一種積極訊號. 基於這個內容,英國倫敦大學學院流行病學與公共衛生系學者 ...

「走路快」的人多活15年!涉及47.5萬人的研究證實了

「走路快」的人多活15年!涉及47.5萬人的研究證實了
走路是一項老少咸宜的運動.有人整天佩戴運動手環或計步工具,晚上到家卻發現:一天下來走了小一萬步,為什麼感覺不到步行對健康的效果呢? 事實上,平時走路產生的步數,由於強度不夠,並不能達到運動健身的目的. ...

人過60以後,走路快的人與走路慢的人,哪種更健康呢?建議瞭解下

人過60以後,走路快的人與走路慢的人,哪種更健康呢?建議瞭解下
62歲的張阿姨在退休之後,加入了一個老年人俱樂部,經常搞一些聯誼活動,比如跳舞.學書法等,張阿姨自從加入之後,覺得生活瞬間豐富了起來,性格也開朗了很多. 前一段時間,俱樂部組織老年人進行了爬山活動,張 ...

47.5萬人的研究:走路快,壽命長!平均多活15年,你的步速達標?

47.5萬人的研究:走路快,壽命長!平均多活15年,你的步速達標?
2019年美國<梅奧診所學報>上的一項研究,這是涉及47.5萬人的研究,透過對它們的步行速度.體重指數,進行7年的長期監測和研究,目的是為了探求這兩者之間的關係,探求這兩個因素對壽命的影響 ...

長期不發燒的人,更容易得癌症,這是真的嗎?醫生告訴您真相

長期不發燒的人,更容易得癌症,這是真的嗎?醫生告訴您真相
"人體如果很少被病毒.細菌攻擊,免疫力就不會得到鍛鍊,那自然免疫力就不強,這樣的話就容易得癌症!" 張大爺是一個特別注意養生的人,他平時喜歡看一些健康相關的文章和影片.最近在瀏覽網 ...

這4種人,更應該多喝茶,看看你在不在其中?
#哪些人應該多喝茶# 茶是一種健康飲品.喜歡喝茶的人,365天沒有一天離得開茶.正所謂:寧可食無肉,不可飲無茶. 茶葉可以解渴,可以清心,可以降脂,有益身心.對大部分人來說,喝茶都是有好處的,除了一部 ...

人的壽命會受到遺傳因素影響?什麼樣的體質更長壽?一次性說清楚

人的壽命會受到遺傳因素影響?什麼樣的體質更長壽?一次性說清楚
現如今,長壽老人越來越多,一說到長壽老人,很多人都感覺到非常羨慕,很多人都希望自己能夠健康長壽,那麼什麼樣體質的人更加長壽? 從古代開始,就有很多人嘗試著透過服用一些靈丹妙藥來達到長生不老,但是這個世 ...

對他人不友善的人,更易相信陰謀論
來源:生命時報 在以科學結果為證據的今天,仍有很多人對一些荒謬的邏輯深信不疑.美國俄勒岡大學在<人格與個體差異雜誌>上發表研究顯示,對他人不友善的人,更易相信陰謀論. 所謂"黑暗 ...

哪些人更長壽
長生不老是每個人一生都願意付出物質想得到的,長生不死更是世上所有人都夢寐以求的,以現在的人類科學,不死還是做不到了,延緩死亡確實進步很多了,每個人都想活的更久些,什麼樣的人更長壽呢,我認為最重要的還是 ...

“語遲終顯貴,步緊必定窮”是啥意思?說話慢,走路快暴露出什麼

“語遲終顯貴,步緊必定窮”是啥意思?說話慢,走路快暴露出什麼
我們都知道龐統號稱"鳳雛",與諸葛亮齊名,但就因為他其貌不揚,甚至有點醜陋,所以無論是孫權,還是曹操都沒有收留他. 甚至孔子都有以貌取人的例子,孔子有位弟子,叫作澹臺滅明,字子羽. ...

割絆腳繩是一種習俗,寶寶學走路要割絆腳繩,人去世了要套絆腳繩

割絆腳繩是一種習俗,寶寶學走路要割絆腳繩,人去世了要套絆腳繩
近日,四川成都一網友釋出稱:自己寶寶剛剛學走路,父親就用刀在寶寶身後比劃著割"絆腳繩",不知道你有沒有聽說過這個習俗. 透過網友的影片看,這是一種"割絆腳繩"民 ...

“千萬別化療,一化療人就沒了”?化療究竟會不會讓人死得更快?

“千萬別化療,一化療人就沒了”?化療究竟會不會讓人死得更快?
"感覺快窒息了,真的太痛苦太痛苦了!" 這是演員徐婷患癌去世前在網路最後的遺言,查出癌症後,她痛苦掙扎了兩個月,年僅26歲最後因為淋巴瘤遺憾離世了.她的這段患癌的經歷,能引起我們很 ...

新民快評|請勿對人偶亂伸手

新民快評|請勿對人偶亂伸手
近日有網友爆料,上海迪士尼樂園的"達菲"被遊客拍打頭部.影片顯示,被拍打後"達菲"捂著臉,很痛苦的樣子,旁邊工作人員和一些遊客上前安慰.對此,上海迪士尼表示,希 ...

有人一喝水就尿多,有人卻兩個小時也不上廁所?哪類人身體更好

有人一喝水就尿多,有人卻兩個小時也不上廁所?哪類人身體更好
根據研究發現,每個人每天都要攝入1500~2000毫升左右的水分,而相應的是,我們每天需要排尿約在4~8次左右,其中白天6~7次,晚上1~2次左右,如此達到我們人體的水液平衡,但是對於水的吸收和代謝每 ...

三口皆快充,功率自分配,更小巧的倍思GaN Pro 65W充電器評測

三口皆快充,功率自分配,更小巧的倍思GaN Pro 65W充電器評測
大家好,我是夢想是個豬,今天為大家帶來的是一款倍思65W充電器的評測. 前言 前些天寫了一篇iPhone13周邊配件的推薦文,裡面推薦了一款我最近一直在使用的65W充電器,有一些朋友對這款充電器很有點 ...

少吃真能讓人更長壽嗎?來看下“硬核”研究結果
不知道從什麼時候開始,有種傳言說人這一輩子能吃的食物是有限的,一共就是那麼多,誰越晚吃完,活的就越久. 聽起來好像是特別搞笑的一件事,但是隨著人們對健康的重視,發現相對來說吃得少,是要比吃得多更健康一 ...

如何安慰人會更好,我教你6種技能

如何安慰人會更好,我教你6種技能
首先,傾聽彼此的煩惱 由於不同的生活經歷.家庭背景和教育背景,每個人對苦難都有不同的理解.因此,當試圖安慰一個人時,首先要了解他的痛苦.為了安慰人們,聽比說更重要.一顆沮喪的心需要溫柔的傾聽,而不是邏 ...

晨起後堅持做這5件事的人,更容易瘦下來,面板也會得到改善

晨起後堅持做這5件事的人,更容易瘦下來,面板也會得到改善
更瘦.更美是每個女生的目標,可是,為啥臉上塗抹那麼多護膚品,也學著服裝穿搭,還是覺得自己不好看呢?在這個看身材.看臉的時代,應該怎麼做才能讓自己變得更完美?和你分享5個"秘訣",晨 ...

氣血充足,人顯得更漂亮,四個補氣養血的方法,建議嘗試下

氣血充足,人顯得更漂亮,四個補氣養血的方法,建議嘗試下
導語:當下,很多人形容女性,都形容健康美麗,但是如果說形容一個女性氣色好,那就說明這個女性的整體狀態.容貌臉色都是非常好的. 而所謂的氣色好,其實就是女性身體中的氣血好,女性氣血好說明身體中沒有什麼疾 ...