物聯網領域繼NB-IoT等低功耗廣域網技術的浪潮之后，下一個大的機遇蘊藏在哪里?通過上周AlphaZero和華為的親身示范，下一波浪潮已經呼之欲出，那就是“邊緣智能Edge Intelligence”。

　　上周連續發生了兩則重磅新聞：

　　一是10月16日，華為Mate 10系列如期在德國慕尼黑全球發布。華為Mate 10和華為Pro配備了全球首款帶有專門神經網絡處理器NPU的人工智能芯片麒麟970，基于該芯片的Mate10系列手機的人工智能應用性能得以大大增強，能像人腦一樣思考。顛覆性創新加營銷讓一眾腦殘粉直呼剁手，各大電商平臺均出現一機難求的盛況。

　　另一個是10月19日，DeepMind公布了最新版AlphaGo論文，介紹了迄今最強最新版本的AlphaGo Zero，使用純強化學習的算法，3天訓練后就以100比0的慘烈比分擊敗了上一版本的AlphaGo。

　　最近我一直被問到物聯網領域繼NB-IoT等低功耗廣域網技術的浪潮之后，下一個大的機遇蘊藏在哪里?答案已經初見端倪，本文就來正式解答。通過本周AlphaZero和華為的親身示范，下一波浪潮已經呼之欲出，那就是“邊緣智能Edge Intelligence”。

　　一、什么是邊緣智能(Edge Intelligence，EI)?

　　一句話概括，邊緣智能是指在終端側部署人工智能。

　　毫無疑問，人工智能正在成為一種改變各行各業的通用技術。此前，絕大部分的人工智能都是依賴云端實現，現在，部署在終端側的人工智能正在開辟更為廣闊的市場。除了智能手機等個人終端之外，靠近設備或數據源頭的網絡邊緣，物聯網終端將會成為最大戰場。

　　依靠云端實現的人工智能存在一些顯而易見的弊端，如業內眾所周知的“三大罪”：首先，個人數據上傳到云端不利于隱私保護;其次，云端人工智能需要較高的帶寬支持，功耗較高;第三，云端人工智能會有較高的延時性，很多需要實時物聯網RT-IoT的場景無法應用。

　　而邊緣智能將會有效的避免這些問題，優勢堪稱碾壓性的：

　　1. 網絡時延優勢：邊緣終端的位置確保了時間敏感類應用的實時性需求。

　　2. 網絡分布優勢：部署于邊緣的人工智能讓終端設備直接得到AI分析結果，既減少了網絡流量，又分流了云端集中推理的計算壓力。

　　3. 安全性和可靠性提升：邊緣智能不必將個人數據上傳到云端，就地進行人工智能分析，利于隱私保護，同時提升對網絡依賴方面的可靠性。

　　4. 產業布局靈活：圍繞邊緣智能將會衍生出全新生態，由于人工智能的各種算法發展日新月異、組合千變萬化，邊緣智能將會推動產業的進一步分工，產生算法提供商、終端生產商、邊緣智能服務運營商等多重角色。總之，比邊緣計算更進一步的邊緣智能，擁有更高的安全性、更低的功耗、更短的延時、更高的可靠性、更低的帶寬需求…這些都是邊緣智能EI傲視云端智能的資本。

　　二、從市場角度來講，邊緣智能的好處在哪里?省錢。

　　B2C領域的各種智能家居終端和可穿戴設備更通人性，幫你省電、省水、省洗衣粉、省糧食…這些好處根本不值再提。

　　這里僅以B2B范疇的工業為例，某研究機構算了一筆詳細的經濟賬。大部分邊緣設備都與云端相隔萬里，而當邊緣與云端的距離減少到200英里時，數據處理成本將減少30%，相隔100英里時，數據處理成本將減少60%。而當邊緣具備人工智能分析能力時，這一成本還有繼續縮減的空間。報告同時發現，近一半的設備維護工作實則雞肋。如果利用邊緣智能，根據機器的實際狀況開展維護工作，工廠就能更快地響應異常情況，減少停機事件，避免白干活。如果利用視頻監控施工現場或危險區域的工人，并通過邊緣智能即時進行分析，可以將人工觀察成本減少30%到50%。這些看得見摸得著的經濟效益對工業、制造業有著致命的吸引力。總體而言，通過邊緣智能，企業能夠將運營成本降低5%到12.5%，同時提高生產力，延長設備的使用壽命。

　　除了省錢之外，邊緣智能還有可能無心插柳柳成蔭，帶來意料之外的驚喜價值。根據麥肯錫的分析，雖然工業現場安裝了成千上萬的傳感器，但是決策時使用的傳感器數據卻僅僅只有1%。那么，其他99%的數據去哪兒了呢?丟了!

　　大多數的數據在采集點就丟了。麥肯錫發現，40%的數據完全沒有保存，剩余60%的數據也只是離線保存在采集終端上。僅僅依靠1%可憐的回傳數據，談何實時管理和深入分析?邊緣智能讓企業第一次有機會抓住事先和事中分析的可能性，從事后亡羊補牢的怪圈中跳出來，重新審視自身、重構管理機制。

　　三、從技術發展的時間軸來看，為什么說邊緣智能的機遇在當下這個時刻開啟了呢?

　　硬件是最直觀的說服力。開篇中提到華為Mate 10搭載的正是全球首款內置神經元網絡單元(NPU)的人工智能處理器麒麟970。無獨有偶，蘋果發布的新一代iPhone所搭載的A11仿生處理器也加入了全新的神經網絡引擎。除了華為和蘋果之外，巨頭們也紛紛表示不想輸在起跑線上。雖然尚未推出移動AI芯片，但高通將加大AI領域的投資：集中在提升CPU、GPU和DSP性能三大方面。事實上，高通神經處理引擎的軟件開發工具包已經在不久前面向開發者推出。

　　至于三星，韓媒稱這家公司也正在開發“多款”專用AI處理芯片。不久之前，Imagination發布了全新神經網絡加速器PowerVR Series2NX NNA，據稱性能秒殺麒麟970和蘋果A11。ARM推出新架構DynamIQ芯片，該CPU架構將會通過為不同部分配置軟件的方式將多個處理核心集聚在一起，其中包括一個專門為AI算法設計的處理器。芯片廠商將可以為新處理器配置最多8個核心。同時為了能讓主流AI在自己的處理器上更好地運行，ARM還將放出一系列軟件庫。英特爾也推出了Myriad X芯片，將專用的成像、計算機視覺以及高性能深度學習推理結合在同一個芯片中，立志以驚人的低功耗和高性能將人工智能引入邊緣。更多的企業正在半路殺來。比如，全球領先的智能和互聯設備的信號處理IP授權許可廠商CEVA和正在申請專利的深度學習技術廠商Brodmann17宣布合作，為邊緣設備增強20 倍AI性能。

　　雖然，移動AI芯片并非一切通吃，它的普及也不是一朝一夕之事，技術需要不斷進步，才能進化出更符合我們期待的“邊緣智能大腦”，但是，華為和蘋果在手機中引入移動AI芯片的做法具有首創與首試的重要意義：

　　首先，有預測稱，在巨頭們的帶動下， 2018年的智能手機都會搭載AI芯片。由于手機仍舊是世界上出貨量最大的智能終端之一，移動AI芯片搭載于手機端，似乎可預見一大波手機大戰，這無疑有利于促進其成本的迅速下降。

　　其次，Mate 10并不是智能手機，而是智能機器。華為和蘋果引領的不只是手機市場革新，而是邊緣智能和下一代物聯網的技術趨勢。擁有移動AI芯片的智能手機有利于終端用戶培養使用習慣，進而很快接受甚至期待承載邊緣智能的家居硬件或者其他時尚可穿戴單品。最后，邊緣智能的普及需要建設新型生態。提供硬件、軟件和運維的各種企業共同推進，開發者同樣會扮演非常重要的角色。巨頭們已經培育多年的開發者和合作企業生態，有利于將生態能力快速切換到IoT邊緣智能產品的打造中來。

　　四、再從軟件端來看。

　　我們一直有一個印象，很多人相信在人工智能的應用中，必須依靠強大的算力支持和海量的數據積累。但是AlphaGo Zero讓他們第一次認識到了算法的重要性遠高于算力和數據，而且在AlphaGo Zero中，團隊投入的算力比打造上一個版本的AlphaGo少使用了一個數量級。新一代的AlphaGo Zero達到這樣一個水準，只用了4塊TPU，訓練72小時就可以戰勝與李世石交手的AlphaGo，訓練40天后可以戰勝與柯潔交手的AlphaGo。而它的哥哥阿法狗，需要在48個TPU上，花幾個月的時間，學習三千萬棋局，才能打敗人類。幾個不同版本所需的算力對比如下：

　　同樣重視算法的還有百度。百度硅谷AI實驗室高級研究員Greg Diamos曾經發布署名文章，其中指出，在人工智能領域，硬件研發速度已經超過了人工智能算法，為了能更完全發揮當今人工智能硬件的威力，加快人工智能的技術進展，研發下一代算法成為了當務之急。這里解釋一下AlphaGo Zero如何不依靠人類知識“自學成才”。AlphaGo Zero之所以能當自己的老師，是用了一種叫強化學習的新模式。主要有兩個核心要素，一個是啟發式搜索，一個是深度殘差神經網絡，而這兩者又實現了完美結合。前者，啟發式搜索的思想非常樸素，是個針對問題設計的一個高級定制版蒙特卡洛數搜索算法;而后者，深度殘差神經網絡則讓簡單的搜索算法極大地提升了效率。

　　著重介紹后者的最新進展，深度殘差神經網絡ResNet在2015年由曠視科技首席科學家孫劍當時帶領的團隊率先提出，ResNet一個重要的突破是實現了152層的網絡深度，這讓一些非常復雜的函數做映射時的效率與有效性得到了極大的提升。結合了ResNet的強大網絡使AlphaGo Zero能夠快速、準確地學習每一子的落子概率和對整個棋局進行判斷。隨后孫劍在結構上繼承了殘差網絡(ResNet)的設計思想，并在此基礎上做出了一系列改進來提升模型的效率，曠視研究院在今年7月提出ShuffleNet，它專門為了移動端的應用而生，在設備提供的計算量很小的時候也能快速響應。除了像ShuffleNet這樣通過網絡設計的方式把計算量降下來，曠視在去年還發表了一項工作DoReFaNet，并且其團隊成員仍然繼續在降低計算量的這一方向上發力。

　　采用深度殘差神經網絡ResNet，AlphaGo Zero在特征提取層采用了多個殘差模塊，每個模塊包含2個卷積層，比之前的AlphaGo深度明顯增加，從而可以實現更好的特征提取。AlphaGo Zero借此自我對弈，往復循環。每過一輪，系統的表現就提高了一點點，自我對弈的質量也提高了一點點。神經網絡越來越準確，AlphaGo Zero的版本也越來越強。目前的這個結論，只有Google一家得出，沒有其他機構復現該實驗，或說“證實”與“證偽”。如果它是正確的話，那么將會極大的影響人工智能的演進路徑。

　　過去在人工智能領域一直存在爭論，是算法重要還是算力重要。AlphaGo Zero展示了算法的重要性，使用了更先進的算法和原理，讓AlphaGo Zero的程序性能本身更加優秀，而不是等待硬件算力技術的提升。AlphaGo Zero揭示了依靠高效算法和較少算力實現AI的可行路徑。軟件算法的持續迭代與人工智能硬件的結合，將會催生爆發式的成長。這種低功耗、高性能的解決方案，推動人工智能走向網絡邊緣。

　　五、是否有公司已經在邊緣智能領域起跑?不少。

　　先從巨頭講起。收購了DeepMind科技的Google，還擁有一個物聯網領域的利器：Google IoT Core。目前Google正在與恩智浦合作，挖掘邊緣設備的潛能，進一步發揮機器學習和人工智能的作用，推動制造、運輸、公用事業等各行各業快速受益。利用“云物聯網核心Google IoT Core”，企業可以輕松連接并集中管理全球各地成百上千萬的物聯網設備。

　　當用作更廣泛的谷歌云物聯網解決方案的一部分時，“云物聯網核心”可以吸納所有物聯網數據并連接到谷歌云最先進的分析服務，包括Cloud Pub/Sub、Dataflow、Bigtable、BigQuery和Machine Learning。微軟最新推出的Azure IoT Edge服務，是一個為物聯網準備的邊緣服務。它會用各種傳感器和小型計算設備追蹤工業場景中的數據，然后由微軟的云和AI工具分析，通過這項功能將計算能力由云推向邊緣。使用微軟的Azure IoT Edge，不僅能采集和分析數據，還開始將Azure機器學習及AI認知服務帶進設備端，讓設備想要就近結合機器學習變得更容易多了。Azure IoT Edge使得IoT設備能夠實時運行云服務，處理數據，并與傳感器和其它與之相連的設備進行通信。通過處理、分析和運行數據源，Azure IoT Edge幫助用戶做出更快、更智能的決策，同時將關鍵信息發送到云進一步分析來降低帶寬成本。

　　蘋果則發布了Core ML平臺，堅持不在云端實現機器學習，核心是加速在iPhone、iPad、Apple Watch上的人工智能任務，支持深度神經網絡、循環神經網絡、卷積神經網絡、支持向量機、樹集成、線性模型等。Core ML為設備性能進行了優化，從而減少了內存占用和功耗。嚴格在設備上運行能夠確保用戶數據的隱私，并且能保證各種應用在沒有網絡連接時也能夠工作和響應。由于Core ML減少了很多不必要的內容，就算不在云端運行也不會性能變差。

　　六、邊緣智能領域的初創企業更值得關注。

　　首先來說說我經常提到的FogHorn公司。FogHorn 為工業和商業物聯網應用提供邊緣智能計算平臺，這一平臺能夠在各類工業和企業中，發揮機器學習和高級分析的作用，推動新一類的監控和診斷、資產性能優化、運營智能化和預見性維護程序的發展。

　　FogHorn解決方案通過提供一個高度微型化的復雜事件處理CEP引擎(也被稱為分析引擎)和強大而富有表現力的域特定語言(DSL)，在多個傳入的傳感器數據流上表達規則，從而解決這一問題。然后，這些表達的輸出可用于立即防止費用高昂的機器故障或停機時間，并可實時提高工業運行和處理的效率及安全性。Foghorn最新的機器學習平臺Lightning ML，僅有256MB大小，將機器學習能力嵌入到邊緣設備，使得AI能夠運行在計算能力高度受限的邊緣設備上，例如PLC、工業PC、Raspberry Pi系統和多種IoT網關。

　　關鍵特點：可在小型環境、高吞吐或網關環境內運行高度可擴展的高效CEP引擎，可作用于未來流傳感器數據在帶有豐富數據訪問的邊緣進行復雜應用開發和部署跨越云和邊緣的應用移動性云與邊緣之間先進的機器學習(ML)和模型傳輸FogHorn支持主要的工業數據提取協議(如 OPC-UA、Modbus、MQTT、DDS 等…)以及其他數據傳輸協議。

　　此外，用戶還可輕松地將自定義協議適配器插入FogHorn的數據提取層。另外一家初創企業來自中國，名為北京輕停網絡科技有限公司，正在進行邊緣智慧方面的有益嘗試。“輕停”顧名思義就是輕松停車，這家公司從智能停車場景切入，進而抽象通用能力，發布了EdgeOn企業級物聯網開發套件，讓更多的企業開發者和集成商，有能力像輕停一樣把優質的IoT服務做到各行各業。

　　EdgeOn IoT Suite針對物聯網行業應用構建，具有非常顯著的特點：

　　1. 它可以實現異構的IT和OT系統的集成，支持所有工業協議的解析。2. 它支持行業模板，比如說一座大樓的樓宇、消防、安防等控制系統已經運行了4-5年，并且需要24小時連續工作，輕停確保從系統數據庫里獲取業務數據上傳到云端、再回寫到系統，每一個環節都安全可靠。3. 通過與青云QingCloud的合作，輕停在行業內首發混合云部署架構，支持企業各種云環境，實現全數字化轉型。4. EdgeOn行業模板里內置的API可以幫助服務提供商快速集成和構建物聯網服務。當今技術的迭代速度明顯高于人們的預期，人工智能也不是萬能的，它還處于初級階段，而且人工智能的投資正在經歷泡沫化，市場迷霧越來越濃。細節方向或許迷茫，不過，錯過邊緣智能浪潮的戰略性失誤，那絕對是不可饒恕的。