Google TPU吊打GPU？NVIDA表示不服並扔出Tesla P40
Google昨天宣布旗下的AlphaGo今年5月份將與圍棋世界冠軍柯潔對戰，去年的人機大戰已
經顯示了AI在這方面強大的實力，而此前柯傑與AlphaGo也在網上對戰過，結果輸了。
Google在圍棋AI上這麼高調實則是展示自家在機器學習、人工智能等新領域的實力，前幾
天Google還公佈了專門為AI運算研發的TPU加速芯片，在AI性能上比GPU加速還要快幾十倍
，一時間TPU吊打GPU的報導滿天飛了。不過宣傳吊打GPU勢必會惹到專注GPU加速AI的
NVIDIA公司，他們表示不服，並扔出了Telsa P40加速卡——老黃沒拿出Tesla P100這種
核彈說明還是很低調的。
http://imgur.com/y6HYRH2
先說說Google的TPU是怎麼回事——TPU全稱是Tensor Processing Unit（張量處理單元）
，這是Google為機器學習開發的專用芯片，計算性能會比傳統的CPU/GPU組合要強大。根
據Google公佈的測試結果，TPU要比CPU/GPU加速快上15-30倍，而且能效比還要高達多，
這個看要具體的TPU/CPU、TPU/GPU等不同組合了。
http://imgur.com/v8zZewV
Google的TPU性能比傳統的CPU/GPU組合要快上幾十倍
如果只看Google公佈的結果，那麼TPU確實在性能及能效上吊打GPU加速了，不過Google宣
傳自家的AI加速芯片沒問題，Google的研究人員其實探討的也只是技術上的選擇問題，不
過牽涉到其他家的產品就容易惹來爭議了，特別是涉及到了NVIDIA這家懟誰都不怕的公司
，因為Google的TPU性能對比用了他們家的Teksa K80加速卡。
日前NVIDIA官方博客就發表了一篇文章回應TPU加速與GPU加速孰好孰壞的問題，這篇文章
說的很客氣，並沒有什麼火藥味，只不過NVIDIA擺事實講道理列舉了Google的不對之處—
—你們的TPU對比的其實我們五年前的GPU加速卡。
http://imgur.com/KbZQTNy
NVIDIA列舉了Pascal一代的Tesla P40加速卡性能
Google之前對比的加速卡是Tesla K80，這是Kepler架構的產品了，發佈於2012年，放到
今天確實已經落伍了，性能只有Google TPU處理器的1/13也不足為奇。NVIDIA這次扔出的
是Tesla P40，是Pascal架構中的加速卡產品，發佈於2016年，是Quadro M6000之後第二
款完整版GP102核心，3840個CUDA核心，24GB顯存，單精度性能12TFLOPS，不過針對AI運
算的Int8（FP8，1/4精度）達到了47TFLOPS，NVIDIA表示P40加速卡的加速性能達到了TPU
的2倍，帶寬則是TPU的10倍，還支持TPU沒有的FP32運算。
NVIDIA這篇文章裡還是挺客觀的，其中也說了不少TPU加速的優點，而雙方這次的過節實
際上是選擇了不同的技術路線，這個問題也不只是TPU與GPU之爭，要是擴大起來，Intel
的CPU也要表示不服了，畢竟Google對比的CPU還是Haswell時代的Xeon E5-2699 v3處理器
。
不過Intel即便不服氣也不可能拿CPU來跟Google對懟了，因為CPU這種通用處理器並不適
合AI加速運算，所以Intel才買了Altera，後者的FPGA芯片也可以用來做AI加速，Intel要
是不服的話大可以拿最新的Stratix 10 FPGA芯片來說話
https://goo.gl/IZuGPH
TPU 功耗75W K80 300W K40 250W
功耗是人家3~4倍
效能至少也要這麼多倍才說得過去吧
--
http://imgur.com/QLlVVoM
--
Google昨天宣布旗下的AlphaGo今年5月份將與圍棋世界冠軍柯潔對戰，去年的人機大戰已
經顯示了AI在這方面強大的實力，而此前柯傑與AlphaGo也在網上對戰過，結果輸了。
Google在圍棋AI上這麼高調實則是展示自家在機器學習、人工智能等新領域的實力，前幾
天Google還公佈了專門為AI運算研發的TPU加速芯片，在AI性能上比GPU加速還要快幾十倍
，一時間TPU吊打GPU的報導滿天飛了。不過宣傳吊打GPU勢必會惹到專注GPU加速AI的
NVIDIA公司，他們表示不服，並扔出了Telsa P40加速卡——老黃沒拿出Tesla P100這種
核彈說明還是很低調的。
http://imgur.com/y6HYRH2
先說說Google的TPU是怎麼回事——TPU全稱是Tensor Processing Unit（張量處理單元）
，這是Google為機器學習開發的專用芯片，計算性能會比傳統的CPU/GPU組合要強大。根
據Google公佈的測試結果，TPU要比CPU/GPU加速快上15-30倍，而且能效比還要高達多，
這個看要具體的TPU/CPU、TPU/GPU等不同組合了。
http://imgur.com/v8zZewV
Google的TPU性能比傳統的CPU/GPU組合要快上幾十倍
如果只看Google公佈的結果，那麼TPU確實在性能及能效上吊打GPU加速了，不過Google宣
傳自家的AI加速芯片沒問題，Google的研究人員其實探討的也只是技術上的選擇問題，不
過牽涉到其他家的產品就容易惹來爭議了，特別是涉及到了NVIDIA這家懟誰都不怕的公司
，因為Google的TPU性能對比用了他們家的Teksa K80加速卡。
日前NVIDIA官方博客就發表了一篇文章回應TPU加速與GPU加速孰好孰壞的問題，這篇文章
說的很客氣，並沒有什麼火藥味，只不過NVIDIA擺事實講道理列舉了Google的不對之處—
—你們的TPU對比的其實我們五年前的GPU加速卡。
http://imgur.com/KbZQTNy
NVIDIA列舉了Pascal一代的Tesla P40加速卡性能
Google之前對比的加速卡是Tesla K80，這是Kepler架構的產品了，發佈於2012年，放到
今天確實已經落伍了，性能只有Google TPU處理器的1/13也不足為奇。NVIDIA這次扔出的
是Tesla P40，是Pascal架構中的加速卡產品，發佈於2016年，是Quadro M6000之後第二
款完整版GP102核心，3840個CUDA核心，24GB顯存，單精度性能12TFLOPS，不過針對AI運
算的Int8（FP8，1/4精度）達到了47TFLOPS，NVIDIA表示P40加速卡的加速性能達到了TPU
的2倍，帶寬則是TPU的10倍，還支持TPU沒有的FP32運算。
NVIDIA這篇文章裡還是挺客觀的，其中也說了不少TPU加速的優點，而雙方這次的過節實
際上是選擇了不同的技術路線，這個問題也不只是TPU與GPU之爭，要是擴大起來，Intel
的CPU也要表示不服了，畢竟Google對比的CPU還是Haswell時代的Xeon E5-2699 v3處理器
。
不過Intel即便不服氣也不可能拿CPU來跟Google對懟了，因為CPU這種通用處理器並不適
合AI加速運算，所以Intel才買了Altera，後者的FPGA芯片也可以用來做AI加速，Intel要
是不服的話大可以拿最新的Stratix 10 FPGA芯片來說話
https://goo.gl/IZuGPH
TPU 功耗75W K80 300W K40 250W
功耗是人家3~4倍
效能至少也要這麼多倍才說得過去吧
--
http://imgur.com/QLlVVoM
--
All Comments