《電子技術應用》
您所在的位置:首頁 > 模擬設計 > 業界動態 > 未來的AI計算,將是CPU、GPU、IPU并行的時代

未來的AI計算,將是CPU、GPU、IPU并行的時代

2020-11-12
來源:21ic
關鍵詞: AI計算 CPU GPU IPU

AI的快速發展直接促進了CPUGPU的發展,而AI應用專門的處理器是IPU,IPU將基于自身優勢為世界的智能化進程增添不竭動力。

一、英偉達專注的GPU優勢逐漸縮小

51.jpg

從專注圖像渲染崛起的英偉達的GPU,走的也是相當于ASIC的技術路線,但隨著游戲、視頻渲染以及AI加速需要的出現,英偉達的GPU也在向著GPGPU的方向演進。

當硬件更多的需要與軟件生態掛鉤時,市場大多數參與者便會倒下。在競爭清理過后,GPU形成了如今的雙寡頭市場,并且步入相當成熟的階段。

ASIC本身的成本、靈活性缺失,以及應用范圍很窄的特點,都導致它無法采用最先進制程: 即便它們具備性能和能效優勢,一旦無法采用最先進制程,則這一優勢也將不再明顯。

為保持其在GPU領域的寡頭地位,使得英偉達必須一直保持先進的制程工藝,保持其通用性,但是要犧牲一定的效能優勢。

相比于來自類GPU的競爭,英偉達不應該忽視Graphcore的IPU,特別是Graphcore一直都在強調其是為AI而生,面向的應用也是CPU、GPU不那么擅長的AI應用。

二、利用AI計算打側面競爭戰

不管CPU還是GPU都無法從根本上解決AI問題,因為AI是一個面向計算圖的任務、與CPU的標量計算和GPU的矢量計算區別很大。

而另一邊的IPU,則為AI計算提供了全新的技術架構,同時將訓練和推理合二為一,兼具處理二者工作的能力。

作為標準的神經網絡處理芯片,IPU可以支持多種神經網絡模型,因其具備數以千計到數百萬計的頂點數量,遠遠超過GPU的頂點規模,可以進行更高潛力的并行計算工作。

52.jpg

計算加上數據的突破可以讓IPU在原生稀疏計算中展現出領先IPU 10-50倍的性能優勢,到了數據稀疏以及動態稀疏時,IPU就有了比GPU越來越顯著的優勢。

此外,如果是在IPU更擅長的分組卷積內核中,組維度越少,IPU的性能優勢越明顯,總體而言,有4-100倍的吞吐量提升。

在5G網絡切片和資源管理中需要用到的強化學習,用IPU訓練吞吐量也能夠提升最多13倍。

三、兩種芯片勢能英偉達與Graphcore的較量

Graphcore成立于2016年,是一家專注于機器智能、同時也代表著全新計算負載的芯片制造公司,其包括IPU在內的產品研發擅長大規模并行計算、稀疏的數據結構、低精度計算、數據參數復用以及靜態圖結構。

英偉達的潛在競爭對手Graphcore的第二代IPU在多個主流模型上的表現優于A100 GPU,兩者將在超大規模數據中心正面競爭。

未來,IPU可能在一些新興的AI應用中展現出更大的優勢。

53.jpg

第二代IPU相比第一代IPU有兩倍峰值算力的提升,在典型的CV還有NLP的模型中,第二代IPU相比第一代IPU則展現出了平均8倍的性能提升。

如果對比英偉達基于8個最新A100 GPU的DGX-A100,Graphcore 8個M2000組成的系統的FP32算力是DGX-A100的12倍,AI計算是3倍,AI存儲是10倍。

四、AI計算未來有三種計算平臺

第一種平臺是CPU,它還會持續存在,因為一些業務在CPU上的表現依然不錯;

第二種平臺是GPU,它還會持續發展,會有適合GPU的應用場景。

第三種平臺是就是Graphcore的IPU。

IPU旨在幫助創新者在AI應用上實現新的突破,幫助用戶應對當前在CPU、GPU上表現不太好的任務或者阻礙大家創新的場景。”盧濤副總指出。

目前GPU在全球已是大規模的商用部署,其次是Google的TPU通過內部應用及TensorFlow的生態占第二大規模,IPU處于第三,是量產的、部署的平臺。

與此同時,Graphcore也在中國積極組建其創新社區。Graphcore已在微信、知乎、微博和GitHub開通了官方頻道,旨在與開發者、創新者、研究者更好地交流和互動。

關于未來的AI計算領域,未來會是 “CPU、GPU、IPU并行” 的時代,GPU或部分CPU專注于業務場景的實現和落地,而IPU專為AI創新者帶來更多突破。

54.jpg

五、構建生態鏈條IPU仍在路上

IPU想要在AI計算中擁有挑戰GPU地位的資格,除了在性能和價格上面證明自己的優勢之外,還需要在為機器學習框架提供的軟件棧上提供更多選擇,獲得主流AI算法廠商的支持。

在標準生態、操作系統上也需要有廣泛的支持,對于開發者有更方便的開發工具和社區內容的支持,才能從實際應用中壯大IPU的開發生態。

一個AI芯片從產出到大規模應用必須要經過一系列的中間環節,包括像上面提到的支持主流算法框架的軟件庫、工具鏈、用戶生態等等,打通這樣一條鏈條都會面臨一個巨大挑戰。

目前申請使用Graphcore IPU開發者云的主要是商業用戶和高校,個人研究者比較少。IPU開發者云支持當前一些最先進和最復雜的AI算法模型的訓練和推理。

和本世紀初的GPU市場一樣,在AI芯片市場步入弱編程階段,如今百家爭鳴的局面預計也將很快結束,市場在一輪廝殺后會剩下為數不多的參與者做最終對決。

現在要看的是在發展初期的逐一擊破階段,Graphcore是否真有定義并主控第三類芯片的魄力了。

不過從創新的架構到芯片再到成為革命性的產品,Graphcore從芯片到落地之間的距離,需要易用的軟件和豐富的工具來支持,特別是對軟件生態依賴程度比較到的云端芯片市場。

IPU不是GPU,既是挑戰也是機會。IPU不是GPU的替代品或者類似品,所以不能拿GPU的邏輯來套用IPU的邏輯。

近兩年,基于AI 芯片研發的各種產品的井噴,預計未來IPU在各類AI應用中將具有更大的優勢。


本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 91精品国产91热久久p | 男女男精品视频免费观看 | 久草网址 | 国产成人午夜精品5599 | 日韩亚洲欧美在线 | 亚洲狠狠ady亚洲精品大秀 | 成人国产第一区在线观看 | 91资源在线 | 国产成人精品一区二区免费 | 男人的天堂免费 | 免费看一级毛片欧美 | 久久黄色片 | 亚洲精品视频区 | 国产精品成人观看视频免费 | 日本精品久久 | 中文字幕成人免费高清在线视频 | 无毛片| 美女视频黄在线观看 | 欧美日韩一区二区三区在线 | 国产乱子伦露脸对白在线小说 | 久久精品免费全国观看国产 | 久久中文字幕久久久久 | 国产精品_国产精品_国产精品 | 久久精品视频播放 | 美女黄页网站免费进入 | 手机看片日本 | 国产成人香蕉久久久久 | 国产成人精品午夜 | 成人黄色免费网站 | 国产三级在线免费观看 | 91久久精品国产91性色tv | 亚洲国产一区在线 | 国产大陆精品另类xxxx | 国产三级网| 亚洲人的天堂男人爽爽爽 | 毛片免费全部播放一级 | 国产精品久久久久一区二区三区 | 综合在线视频 | 日韩一区二区三区四区 | 女网址www呦 | 亚洲国产一区二区三区在线观看 |