大數據在成都視頻監控存儲應用與挑戰分析

成都弱電公司訊：

作為云時(shí)代海量數據的來(lái)源之一，安防成都視頻監控行業(yè)隨著(zhù)智慧城市和智能交通的快速發(fā)展、移動(dòng)互聯(lián)設備的快速激增，產(chǎn)生了海量的非結構化視音頻數據，帶動(dòng)了大數據的存儲、經(jīng)管、分析等應用。面向云時(shí)代，業(yè)界同仁一擁而上、熱血沸騰，無(wú)論是IT供應商、存儲廠(chǎng)商、還是解決方案提供商都不甘落后，雨后春筍般的紛紛提出基于計算、存儲、網(wǎng)絡(luò )等多層次虛擬化的數據中心解決方案，投入大量資源，推出云存儲、云計算等系統產(chǎn)品。

面對大數據，成都視頻監控行業(yè)面臨哪些難題？我們如何應用云計算、大數據相關(guān)技術(shù)來(lái)獲取數據背后隱含的信息？未來(lái)的挑戰和前景如何？我將從以上幾方面發(fā)表個(gè)人觀(guān)點(diǎn)，意在拋磚引玉、引發(fā)業(yè)界同仁在產(chǎn)業(yè)發(fā)展的進(jìn)一步思考和討論。

1.成都視頻監控存儲及智能分析系統中的難題

根據IDC預測，全球在2010年已正式進(jìn)入ZB時(shí)代，全球數據量大約每?jì)赡攴环?，意味?zhù)人類(lèi)在最近兩年產(chǎn)生的數據量相當于之前產(chǎn)生的全部數據量。爆炸式增長(cháng)的數據，正推動(dòng)人類(lèi)進(jìn)入大數據的時(shí)代。

大數據包括社交媒體、移動(dòng)設備、科學(xué)計算和城市中部署的各類(lèi)傳感器信息，其中視頻是構成數據體量最大的組成部分。據IMSResearch統計，2018年全球攝像頭的出貨量達到2646萬(wàn)臺，預計到2018年攝像頭出貨量達5454萬(wàn)臺。一天產(chǎn)生的成都視頻監控數據超過(guò)1500PB，而累計歷史數據將更為龐大，在成都視頻監控大聯(lián)網(wǎng)、高清化推動(dòng)下，成都視頻監控業(yè)務(wù)將面臨海量非結構化數據存儲、數據共享、數據平安及數據利用四大難題。

(1)海量非結構化數據存儲

安防行業(yè)的大數據目前主要來(lái)源于智慧城市和智能交通等大型安防項目。例如，2018年全球兩天的數據就高達1.8ZB，相當于文明起始到21世紀初全部的數據總和；2018年某一線(xiàn)城市一個(gè)季度產(chǎn)生的數據總量也在200PB。當前，智慧城市建設已成為地方政府推進(jìn)城鎮化發(fā)展的重要途徑，而隨著(zhù)智慧城市的發(fā)展，對高清攝像機和智能化監控設備的需求會(huì )持續增長(cháng)，智能交通行業(yè)將成為十二五政府投資的重點(diǎn)領(lǐng)域，這將使未來(lái)幾年成都視頻監控行業(yè)仍保持高景氣度。此外隨著(zhù)智能家居、民用安防的普及，更多的用戶(hù)會(huì )通過(guò)移動(dòng)設備監看視頻，于此同時(shí)會(huì )有更多的移動(dòng)互聯(lián)數據產(chǎn)生。2018年全國就擁有3.88億移動(dòng)互聯(lián)網(wǎng)用戶(hù)，預計2018年互聯(lián)設備將達到150億，2020年互聯(lián)設備將達到2000億。數據10倍速的增長(cháng)，在帶來(lái)巨大機遇的同時(shí)，也帶來(lái)了很大的挑戰。

按照IT產(chǎn)業(yè)的法則：在滿(mǎn)足客戶(hù)需求的前提之下，往往技術(shù)成本越低，其生命力往往越強。由于數據量的急速擴大，以及隨之而來(lái)的大規模計算的需求越來(lái)越多，一味采用高配硬件，使得硬件投資成為客戶(hù)不可承受之重。如何在滿(mǎn)足需求的前提下，刪除重復數據、降低硬件成本投資將成為海量非結構化數據存儲的一個(gè)難題。

(2)數據共享

大數據需要通過(guò)快速的采集、發(fā)現和分析，從大量化、多類(lèi)別的數據中提取價(jià)值。安防大數據時(shí)代最顯著(zhù)的特征就是海量和非結構化數據共享，用以提高數據處理能力。好比天網(wǎng)工程和智能交通就是最具代表性的案例，天網(wǎng)工程一般分為省市縣鄉鎮等多級架構，智能交通圖像也分布在前端卡口、區節點(diǎn)、市省國家級中心中，海量數據存儲在分歧節點(diǎn)、分歧設備中，這給傳統的數據經(jīng)管和使用機制帶來(lái)了極大的挑戰。

與科學(xué)計算、互聯(lián)網(wǎng)相比，成都視頻監控的大數據處理難度尤大，首先，視頻錄像是更原始的非文本非結構化的數據，必須經(jīng)過(guò)復雜繁重的分析處理才能提取出文本結構化的數據進(jìn)行下一步處理；其次視頻錄像相對其它形式數據的容量要大幾個(gè)數量級，對傳輸、存儲和計算的帶寬要求大。因此我們說(shuō)數據高效共享是第二大難題。

(3)數據平安

平安城市、智慧城市的建設促使安防云存儲技術(shù)的應用，智慧城市一大要求就是將視頻存儲數據相互之間進(jìn)行聯(lián)動(dòng)、共享，例如在犯罪追蹤時(shí)，公安、交通、民用行業(yè)等多范圍的存儲數據能夠共享，而這種共享具備了云存儲的特性；傳統的存儲技術(shù)無(wú)法滿(mǎn)足社會(huì )發(fā)展需求，云存儲的在安防領(lǐng)域的應用成為必然。

安防成都視頻監控數據具有私密性高、保密性強的特點(diǎn)，不僅是事后追查的依據、而且更是后續數據分析挖掘的基礎。因此我們說(shuō)數據平安一方面是指不受到外界數據的入侵和非法獲取、另一方面是指龐大系統的魯棒性、體系容錯機制，確保硬件軟件發(fā)生故障時(shí)，數據仍然可以恢復、得以?xún)Υ?。面對海量數據的存儲、共享，硬件和軟件設備承載了極大的風(fēng)險，因此我們如何構建大型、海量成都視頻監控存儲系統、數據分析系統以及容錯冗余機制是第三大難題。

(4)數據利用

攝像頭7X24小時(shí)工作，如實(shí)記錄鏡頭覆蓋范圍的發(fā)生的一切，僅僅記錄信息是不夠的，因為對于客戶(hù)來(lái)講可能大部分信息是無(wú)效。數據的有效性分為兩個(gè)方面，一方面有效信息可能只分布在一個(gè)較短的時(shí)間段內，按照數學(xué)統計的說(shuō)法，信息是呈現冪律分布的，也稱(chēng)為信息的密度，往往越高密度的信息對客戶(hù)價(jià)值越大；另一方面是指深層次挖掘龐大的海量數據，關(guān)聯(lián)得出有效信息。

成都視頻監控業(yè)務(wù)網(wǎng)絡(luò )化、大聯(lián)網(wǎng)后，網(wǎng)絡(luò )內的設備越來(lái)越多，利用閑置的計算資源，實(shí)現資源的最大化利用，關(guān)乎運算的效率。在成都視頻監控領(lǐng)域，往往視頻分析的效率決定價(jià)值，更低的延遲、更準確的分析往往是平安城市這類(lèi)客戶(hù)的普遍需求。隨著(zhù)數據量的增加，哪怕對TB級別的數據進(jìn)行對視頻內容的數據分析和檢索，采用串行計算的模式都可能需要花費數小時(shí)的計算，已遠遠不能勝任時(shí)效性的需求。視頻的分析和檢索，不能依賴(lài)于傳統的手段，巨量數據的效率優(yōu)化，并行計算也許是解決問(wèn)題的辦法。