地平線鄭治泰：深度解讀軟件2.0時代AI無人化“玩法”｜GTIC2020

來源:智東西

芯東西（ID：aichip001）編輯 | 溫淑

GTIC 2020全球AI芯片創新峰會剛剛在北京圓滿收官！在這場全天座無虛席、全網直播觀看人數逾150萬次的高規格AI芯片產業峰會上，19位產學界重磅嘉賓從不同維度分享了對中國AI芯片自主創新和應用落地的觀察與預判。

在峰會上午場，地平線首席戰略官鄭治泰，發表了題為《軟件2.0時代AI芯片的挑戰》的演講。


▲地平線首席戰略官鄭治泰

鄭治泰認為，AI系統的數據系統和計算系統，是軟件2.0時代的兩大要素。在未來，機器將解決AI系統中的大部分問題，而人類科學家則負責對AI系統的算法參數進行調優。據此，地平線推出MAPS（在精度有保障范圍內的平均處理速度）評估方法，為人類科學家調優AI系統提供輔助。MAPS系統可通過可視化、量化的方式，在合理的精度范圍內，從“快”和“準”兩個維度評估芯片對數據的平均處理速度。

此外，鄭治泰透露，地平線征程5芯片正在研發中，將于明年發布。相比業界某品牌同樣計劃于明年發布的GPU新品，征程5芯片有望實現至少3倍的性能提升。

一、軟件2.0時代，AI系統具備兩大要素

在過去的五年中，地平線取得了比較好的商業成就。去年到今年，地平線的AI芯片實現量產上車，并已達到10萬的出貨量。明年，地平線將挑戰100萬的AI芯片出貨量。

這些商業結果源于地平線對技術棧、技術趨勢的把握。在今天看得到的商業化落地結果背后，最根本的是面向未來的思考。

借助GTIC 2020 AI芯片創新峰會的平臺，鄭治泰分享了其對軟件2.0時代的思考，并回顧了人工智能發展的歷史。

鄭治泰認為，在軟件2.0時代，數據系統和計算系統兩個部分構成了整個AI系統。這其中，無論是數據系統還是計算系統，均由機器學習技術來解決最困難、最復雜的部分，人已經不在其中發揮太多的作用。

當人和專家不再成為數據系統和計算的瓶頸的時候，人類社會將會發生質變，人類將大踏步地進入到AI時代。到那時，由自動駕駛引發的機器人時代也必將開啟。


二、未來要實現AI系統的閉環無人化應用

鄭治泰認為，AI問題，特別是面向一個復雜物理世界的問題，需要一個新的解決范式。

傳統的算法采用的是拆解問題的范式，即把問題分解為子系統、子系統被分解為子模塊、在子模塊應用核心的算法。現在看來，這種方式幾乎失靈了。

大家可以想見，假設一臺車在北京出廠，它的用戶可能在新疆、海南、沙漠等地。如果這臺車產生的巨量corner case（極端情況），只能依靠專家、標定人員、測試人員進行重新優化和迭代算法，那么我們可能永遠無法實現人工智能驅動的自動駕駛。

也就是說，在未來的時候，我們需要實現整個人工智能系統的閉環無人化應用。

回顧機器視覺的發展，非常經典的應用是用機器視覺方法識別圖片中的貓狗。這一應用中，計算機識別不同的點陣數據，并進行數據計算。最終，計算機給出一個范式，確定圖片中是貓還是狗。這個問題剛被提出時，大家認為它的難度僅相當于一個本科生暑假作業的難度。

但是人類社會對AI走進物理世界的追求并未停止。在整個科技向前發展的過程中，盡管面臨失敗，科學家仍一次又一次地嘗試，去掌控發展的節奏和參與其中。


最初，機器視覺鼻祖馬爾提出“分解”的機器視覺方法。1986年到1990年間，人們用分解的方案解決機器視覺問題，即對整個圖進行描邊，形成有景深信息的二維圖片，再通過完整的幾何計算，抽象出三維物體。后來，人們發現這一解決方案存在局限性，這是因為當面對不同角度下同一物體的圖片，或者同一角度不同光影下的物體圖片時，計算機無法用上述的拆解數學模型去定義物體。

在1990年代，人工智能進入到下一個階段?？茖W家往后退了一步，將所有的物體類別定義出來，全部由數據系統使用機器識別方法去實現，通過不斷調優、不停移動分類面，提升識別的精度和準確率。

后來，人們又發現這一方法仍無法解決所有問題。在整個物理世界中，一臺車面對著十分復雜的外部環境，人類想用幾個簡單的數學公式集合完成整個定義是不可能的。

2012年至今，機器視覺發生了一個深刻的變革?？茖W家和碼農開始把整個計算過程全部交由機器去做，讓計算機做識別，而科學家則承擔模型結構和算法超參數調優的工作。這一過程中，基于隨機的算法和參數，科學家評估輸入輸出的結果，不斷對不正確的gap進行反向調優。

2017年，專家又后退一步，將模型結構設計也交由機器學習來設計，依賴TPU提供的充沛算力。到2019年，機器設計的模型性能遠超過人類專家設計出來的模型。

在軟件2.0時代，不增加數據的量，而增加計算量的時候，人們發現模型識別的錯誤率下降一半。如果數據量和計算量都提升的話，模型識別錯誤率下降三分之二。增加計算量、增加數據量，都可以自動化進行。這意味著機器自動化、持續降低識別錯誤率是可能的。

為什么在海量數據和大模型的時代，機器會比人更加厲害？鄭治泰稱，這是因為人類專家在抽象、局部有限的小數據、小模型應用中占據優勢。但在大數據、大模型的應用中，計算機的準確識別和網絡設計能力，能夠超常發揮。

現在，利用機器學習重新開發和設計網絡模型、重新計算識別的精度協議的趨勢，并沒有顯示出終止的跡象，這就催生出一個非常重要的可能性，即我們可以面向物理世界，提供AI服務，即全自動無人駕駛汽車等“像人一樣的智能”。

三、借助MAPS評估方法為產業鏈賦能

針對AI系統的數據和計算，這兩大軟件2.0時代的核心要素，人類工程師在打造數據系統的閉環、提升數據閉環效率的同時，還要結合軟件和硬件底層的邏輯設計，逐步提高計算的效率和性能。

基于此，地平線提出MAPS（在精度有保障范圍內的平均處理速度）的概念和評估方法。借助這套方法，客戶可以直接面向物理世界，評估AI系統的效能。這一方法并不是單純計算峰值算力或軟件的算法效率，而是計算這兩者在物理世界可接受的精度范圍內的處理速度。地平線計算的是什么？是AI系統能跑得多快、跑得多準。

為實現數據閉環，幾乎所有的AI公司都在圍繞數據的搜集、采集、標注、模型訓練進行部署。相較而言，地平線是利用自身的核心技術能力，給整個行業賦能。如果客戶需要打造一套完整的數據閉環，地平線可以為其提供技術支持和服務。

鄭治泰透露，目前，地平線正與國內頭部的汽車企業攜手，打造不少于3～5個聯合實驗室。

通過這種聯合實驗室，地平線計劃為車企提供毫無保留的技術支持。地平線秉持開放賦能的宗旨，可以提供芯片，也可以提供芯片+工具鏈，還可以提供芯片+工具鏈+算法。此外，就算客戶想要完全脫離地平線的技術產品來打造AI能力，地平線也會100%為客戶賦能。針對物理世界中的海量數據問題，地平線以幫助合作伙伴具備真正的AI生產力為目標。


2015年，地平線成立，初創團隊具備算法背景。當時，團隊發現在處理邊緣計算時，需要在物理世界中定義一個問題，提出算法模型。根據算法模型重新定義適合這個算法模型的芯片架構，芯片流片后，再回到物理世界中，求得一個最優解。

鄭治泰認為，在計算閉環中，人類科學家需要做到三件事：

第一，人類科學家要持續提升這顆芯片的有效計算效率和計算能力；

第二，人類科學家要持續提升算法的效率；

第三，人類科學家需根據要解決的實際問題，進行聯合調優，得到最優解。

地平線團隊認為，用傳統模型來進行計算能力評估的方式是有局限性的。

首先，一些模型早已過時，而要解決未來自動駕駛場景中的實際問題，需要更先進的模型。芯片在設計的時候，就需要考慮到對未來模型、算法的引進。其次，同一個芯片搭載不同的模型，其利用率也會表現出差異。

基于這兩點，地平線從算法開始進行產品開發，然后再設計芯片，進而回到場景中去解決實際問題。

四、地平線征程5芯片明年發布，性能有望超競品3倍

據鄭治泰分享，地平線團隊MAPS評測結果顯示，市場上的高能效芯片，通常達到約30%的利用率。

人工智能面臨識別、檢測兩個問題。在識別方面，相比市面上現有最好、最普遍的端側GPU產品，地平線的征程3芯片用8%的功耗實現了50%的MAPS，具備4～6倍的能耗優勢；征程5芯片用50%的功耗實現了5倍的MAPS，實現了將近10倍的能耗優勢。

檢測方面，地平線征程5芯片用50%的功耗實現了13倍的MAPS，達到26倍的提升。據稱，明年上述GPU品牌推出的新品，相比其上代產品實現了7倍的性能提升?；诖耍仄骄€將于明年推出的征程5芯片，相比該品牌明年發布的GPU新品，將有至少3倍的提升。

近期，地平線科學家定義的有效評估人工智能計算效能的方法，正為整個產業鏈賦能。鄭治泰提到，地平線希望，產業鏈伙伴都能使用這一方法，讓整個產業進入非常良性的循環。

展望未來，人類科學家要做的事情并不多，其中包括搭建和調優整個系統、看著機器用海量數據輸出結果等。這就是軟件2.0所暗示的未來，自動駕駛、無人駕駛等人工智能應用，將普惠到每個人的生活。

以上是鄭治泰演講內容的完整整理。除鄭治泰外，在本屆GTIC 2020 AI芯片創新峰會期間，清華大學微納電子系尹首一教授，比特大陸、燧原科技、黑芝麻智能、壁仞科技、光子算數、知存科技、億智電子、豪微科技等芯片創企，全球FPGA領先玩家賽靈思，知名IP供應商安謀中國、Imagination，全球EDA巨頭Cadence，以及北極光創投、中芯聚源等知名投資機構，分別分享了對AI芯片產業的觀察與思考。如感興趣更多嘉賓演講的核心干貨，歡迎關注芯東西后續推送內容。