IBM 表示世界上90%的數(shù)據(jù)產(chǎn)生于過去的兩年，其中的大部分為非結(jié)構(gòu)化數(shù)據(jù)。隨著物聯(lián)網(wǎng)的應(yīng)用催生出更多不同來源的數(shù)據(jù)，未來幾年這一趨勢將會加速。因此，基于傳統(tǒng)規(guī)則的數(shù)據(jù)分析方法的有效性已經(jīng)有所下降；為了更好利用爆發(fā)式增長的數(shù)據(jù)，新的方法將采用(如機器學(xué)習(xí))。各大芯片及人工智能公司紛紛加入這場競賽，努力在競爭對手投入新市場前將各自的非結(jié)構(gòu)化數(shù)據(jù)集變現(xiàn)。

　　深度學(xué)習(xí)的供應(yīng)鏈

　　GPU 是實現(xiàn)深度學(xué)習(xí)的關(guān)鍵：深度學(xué)習(xí)的兩個步驟：訓(xùn)練和推斷。訓(xùn)練網(wǎng)絡(luò)目的是有效的設(shè)臵網(wǎng)絡(luò)權(quán)重(Training)；使用訓(xùn)練前的網(wǎng)絡(luò)用來推斷輸入內(nèi)容(Inference)。訓(xùn)練部分的成本更高，進度緩慢且昂貴，而推斷部分則缺乏適應(yīng)新未知內(nèi)容輸入的靈活性。

　　深度學(xué)習(xí)的“訓(xùn)練”和“推斷”

　　由于深度學(xué)習(xí)的計算性質(zhì)，深度學(xué)習(xí)對并行處理的要求較高(尤其是在訓(xùn)練階段)，因此為CPU 添加加速器將能夠極大地改善性能。目前使用的主要加速器是GPU 和FPGA，二者均在并行處理方面有良好的表現(xiàn)，因此較CPU 本身的處理能力而言具備顯著的性能優(yōu)勢。

　　GPU跟著深度學(xué)習(xí)一起火

　　今年的英偉達絕對是芯片領(lǐng)域的明星，雖然體量及總體營收尚不及英特爾/高通等老炮，但是GPU時代開啟之后，其潛力倍受認可。在PC時代，Intel占據(jù)了GPU市場的龍頭地位，隨著移動互聯(lián)網(wǎng)時代的到來，全球GPU市場經(jīng)歷了翻天覆地的變化，ARM主要是隨著移動端的快速發(fā)展逐漸崛起。而獨立GPU企業(yè)NVIDIA則在人工智能、汽車電子、視音頻大數(shù)據(jù)領(lǐng)域、VR等需求的驅(qū)動下，市值不斷創(chuàng)新高。

　　主流芯片的市場分布

　　GPU稱為圖形處理器，或視覺處理器。顧名思義，GPU最主要的應(yīng)用場景就是處理圖像顯示計算。計算機圖像顯示流程見下圖，在這個過程中CPU決定了顯示內(nèi)容，而GPU則決定了顯示的質(zhì)量如何。像GPU這類輔助CPU完成特定功能芯片統(tǒng)稱“協(xié)處理器”，“協(xié)”字表明了GPU在計算機體系中處于從屬地位。

　　計算機現(xiàn)實圖像的基本過程

　　GPU具有高并行結(jié)構(gòu)(highly parallel structure)，因此在處理圖形數(shù)據(jù)和復(fù)雜算法方面擁有比CPU更高的效率。CPU大部分面積為控制器和寄存器，與之相比GPU擁有更多的ALU(Arithmetic Logic Unit，邏輯運算單元：用于數(shù)據(jù)處理)，而非數(shù)據(jù)高速緩存和流控制。這樣的結(jié)構(gòu)適合對密集型數(shù)據(jù)進行并行處理，所以我們看到在高度并行化且數(shù)據(jù)規(guī)模巨大的情況下，GPU獲得很高的浮點運算性能。

　　說明：GPU的工作特點計算量大，但沒什么技術(shù)含量，而且要重復(fù)很多很多次。就像你有個工作需要算上億次一百以內(nèi)加減乘除一樣，簡單的辦法就是雇上幾十個小學(xué)生一起算，一人算一部分，反正這些計算也沒什么技術(shù)含量，純粹體力活而已。GPU就是這樣，用很多簡單的計算單元去完成大量的計算任務(wù)，純粹的人海戰(zhàn)術(shù)。這種策略基于一個前提，就是小學(xué)生A和小學(xué)生B的工作沒有什么依賴性，是互相獨立的。很多涉及到大量計算的問題基本都有這種特性，比如說破解密碼，挖礦和很多圖形學(xué)的計算。這些計算可以分解為多個相同的簡單小任務(wù)，每個任務(wù)就可以分給一個小學(xué)生去做。而CPU就像老教授，積分微分都會算，就是工資高，一個老教授資頂幾十個小學(xué)生，但是老教授還具有協(xié)調(diào)、溝通及管理等能力。

　　GPU配合CPU協(xié)同工作

　　人工智能技術(shù)發(fā)展早期，GPU作為一種現(xiàn)成的并行計算加速芯片被使用在多個項目之中，如汽車的自動駕駛，圖像識別算法等，但GPU未必為人工智能加速硬件的終極答案。GPU限于最初設(shè)計目標，在兩個方向上均不能完美匹配人工智能主流算法。未來隨著人工智能技術(shù)大規(guī)模商用化，從產(chǎn)業(yè)鏈過去發(fā)展的歷史類比，專用人工智能加速協(xié)處理器將對GPU這類過渡方案構(gòu)成挑戰(zhàn)。GPU，由于其最初設(shè)計匹配的計算模型與神經(jīng)網(wǎng)絡(luò)計算模型存在不同，其并行計算核心之間的通信架構(gòu)-NOC(片上網(wǎng)絡(luò))應(yīng)用在神經(jīng)網(wǎng)絡(luò)運算中均存在缺點。

　　GPU不是人工智能的終極芯片

　　看似GPU已經(jīng)在人工智能的加速計算中占主導(dǎo)地位，那么，未來人工智能的硬件加速也一定由GPU承擔(dān)嗎？事實并非如此，業(yè)內(nèi)已經(jīng)存在各種具備競爭力的替代解決方案。谷歌在2016年5月末召開的I/O大會披露了TPU(Tensor Processing Unit)專用處理器項目。資料顯示TPU實際已使用在谷歌諸多商業(yè)與科研項目之中超過了一年時間。擊敗李世石的圍棋世紀人機大戰(zhàn)所使用的服務(wù)器集群使用TPU加速圍棋中DCNN(Deep Convolutional Neural Network)的計算。谷歌的RankBrain中使用TPU提升搜索結(jié)果和街景服務(wù)的相關(guān)度。

　　GPU與安防及視頻智能

　　隨著互聯(lián)網(wǎng)技術(shù)的不斷進步，GPU目前在人工智能(圖像語音識別、無人駕駛等)、視頻處理、VR/AR、生命化學(xué)、金融證券數(shù)據(jù)等領(lǐng)域顯示出了優(yōu)勢，短期內(nèi)具有廣闊的應(yīng)用前景。

　　GPU的發(fā)展空間

　　深度學(xué)習(xí)技術(shù)的發(fā)展使人工智能產(chǎn)業(yè)的冰山正在迅速融化成一股勢不可擋的洪流，沖擊著安防行業(yè)的產(chǎn)業(yè)變革。安防行業(yè)眾多一線廠商攜手世界頂級人工智能芯片廠商發(fā)力智能硬件產(chǎn)品升級，并將CV領(lǐng)域的最尖端的圖形處理器應(yīng)用于新型硬件產(chǎn)品的研發(fā)。目前包括?？?、大華、宇視、網(wǎng)力、科達、曠視、格靈、文安等，均已經(jīng)或即將基于Nvidia/Movidius的GPU產(chǎn)品，結(jié)合到安防前端產(chǎn)品及后端系統(tǒng)中，深度學(xué)習(xí)/人工智能正逐步落地安防應(yīng)用。