機器究竟可以有多智慧？在智慧化的這條道路上，我們已經走過了漫長的幾十年，Siri和Alexa語音助手、影像辨識應用、甚至推薦引擎，其發展歷程告訴我們，前路漫漫，其修遠兮。人類已經可以利用強大的電腦性能，以及大量良好標記的資料來執行醫療診斷這樣的深度學習任務，這是驚人的進步。
但是，我們還需要什麼？
人類對AI的追求遠遠超越了資料科學的範疇。當健康出現異常時，我們希望可穿戴生物感測器系統能夠立即發出警告；在最惡劣的駕駛條件下，我們希望自動駕駛車能夠即時做出反應；我們還希望機器人能以最小的角度轉向。怎樣才能實現這些呢？
我們的行動設備現在看起來似乎勉強能夠理解我們，但實際上並不能。他們只是簡單地將我們的聲音轉換和解碼成文字，然後發出請求，進而轉化為動作或答案，這只是一個運算密集的過程。
2013年曾有一個預測：人們每天花3分鐘時間使用語音辨識進行語音搜索，將使資料中心的運算需求增加一倍。利用傳統CPU實現該功能非常昂貴，因此，Google資深硬體工程師Norman Jouppi和他在同事共同開發了張量處理器(TPU)，該處理器重點最佳化矩陣乘法硬體，可望將神經網路查詢的能效提高95%。
這些處理器在伺服器應用中發揮了很大的作用，但由於這種方法是將所有記憶體和處理集中在資料中心，因而對通訊基礎架構極其依賴，同時還需要進行資訊交流，其中很多是無關資訊，浪費了時間和能量。
隨著邊緣運算時代的來臨，如何才能滿足行動和非連網獨立設備應用對速度、功率、面積和重量的要求呢？