100K 深度學習機 - 3C

Table of Contents


最近深度學習 (Deep Learning) 還蠻紅的
紅到什麼程度呢 ? 讓 NVIDIA CEO 老黃都自稱 NVIDIA 是 AI Computing Company
NV兩年內股價漲 5 倍 GTC 大會整場都在宣傳 AI / Deep Learning

有興趣可以看老黃 GTC 大會演講
https://www.youtube.com/watch?v=FPM3nmlaN00

剛好小弟苦命研究生 論文是做這個題目
無奈 Server GPU 大家都要用 很難搶到運算資源
於是乾脆自己組一台 PC 來跑

分享一下自己目前組的這台機器 供大家參考

--

CPU intel i7-7700K 10,800
MB ASUS Z270-AR 4,690
RAM 美光 DDR4-2400 16G ----- x4 12,000
GPU MSI 1080Ti Sea Hawk X --- x2 50,000
SSD 美光 MX300 750G SSD 6,000
HDD Toshiba 2TB 2,000
PSU Leadex 1000W 白金 5,000
CASE Corsair Carbide 400R 2,500
LCD LG 29UM57 7,500
KB Filco 忍者 茶軸 + PBT 鍵帽 5,000
MOUSE 羅技 G402 1,000

----------------------------------- Total ~ 100,000

-- 同場加映 如果只有4~6萬預算 建議的配備

CPU intel i5-7500 6,400
intel i7-7700K (+5,000)
MB B250系列 自選 3,000
RAM DDR4 16G*2 6,000
GPU MSI GTX1080Ti GAMING X 24,600
GTX1080 系列 自選 (-7,000)
GTX1070 系列 自選 (-10,000)
SSD MX300 525G 4,500
MX300 275G (-2,000)
HDD Toshiba 2TB 2,000
PSU 台達 650W 2,500
CASE 自選 2,000

----------------------------------- Total ~ 50,000


回正題 來看 100K 水冷的配置

外觀
http://i.imgur.com/SqQPHav.jpg

開側板
http://i.imgur.com/W03PGoq.jpg

顯卡水冷直通機頂
http://i.imgur.com/19E9XXx.jpg

從外面(上方往下看) 高級發光烘手機
http://i.imgur.com/qXpRDyb.jpg

箱子排排站
http://i.imgur.com/ufK69uR.jpg

待機 35度 (室溫28)
http://i.imgur.com/Jvf71C0.png

Furmark 燒機10分鐘 65度 水冷壓制力十分驚人
http://i.imgur.com/R9X56Zh.png

跑 deep learning (trainging) 可以看到完全把 GPU 吃滿滿
http://i.imgur.com/jMVCWRl.png

--

心得

其實之前一直沒用過水冷的,這次被店員洗腦說沒差一千塊,直上比較好。
裝上去實測確實散熱能力很好 ( 相較另一張 MSI Gaming X 80度)
整體噪音還可以接受 但還是有風扇聲 ( 因為機殼一堆洞 )
我自己裝弄了半天 零件卡來卡去 要橋很久 建議請店員裝 省事 = 3 =

備註

1. 原本直接拿海盜 RM650i 跑 兩張 GPU 同時滿載 = 斷電關機
這樣的配置 1000W 是必要的

2. 用兩張水冷 1080Ti 算是失誤買的 最好還是買公版 不然裝機弄半天 累死
要雙GPU以上的話, 千萬不要買 2.5 槽的顯卡 e.g. ASUS STRIX, MSI Gaming X.
會吸不到冷風 且對流極差

3. 如果只有單張 1080Ti 650W 應該就OK了

4. 不要買 TITAN X系列 or Server用的 GPU 除非你錢太多沒地方花
個人/實驗室用 5~20萬 1080 ~ 1080Ti SLI 這樣組 C/P 最高

5. i5 / i7 沒差多少錢 ( 相較之下 ) 建議直上 7700K
畢竟 preprocessing 還有其他東西 蠻多也需要 CPU 來算

6. RAM 可以的話也塞到 64G 比較好 像是 dataset 可以直接塞到 RAM 很爽
避免 RAM 不夠大 會切到 swap 造成 read/write 時間拉長

7. SSD 建議 500G 以上 有錢的話買個 1T PCIE SSD 更好
因為像是 image 相關的 dataset 很容易都 100G 以上
還有 train 出來的 weight 也都蠻肥的

8. 如果沒電腦的想租 AWS / GCP 雲端主機 GPU 來跑的話 建議可以放棄這條路了
雲端目前都是骨董級 GPU K80 $ 0.7 USD/hour = 500 NTD/day = 15K NTD/month
更何況 K80 比 1080TI 不知道慢幾倍


大概是這樣 小弟做這個領域一年的心得 供大家參考

--

All Comments

Lauren avatarLauren2017-04-22
是來順便傳道f教的嗎XD
Anthony avatarAnthony2017-04-24
有錢的菸酒生(眼神死
Irma avatarIrma2017-04-25
不說服老闆再組一台嗎就不用自己花這麼多了
Skylar Davis avatarSkylar Davis2017-04-29
電腦配備有時太好 會凸顯學習得不怎樣
Leila avatarLeila2017-04-30
我也想要用machine learning 來學習a34的發文 但是
這個計畫被我的教授反對
Michael avatarMichael2017-05-04
害我還花時間寫了幾頁的報告QQ
Annie avatarAnnie2017-05-04
交大?
John avatarJohn2017-05-06
某樓一個邏輯0分的推論欸 可見當初邏輯學的不怎樣
John avatarJohn2017-05-10
怎麼沒人用裸測架+工業扇跑多卡勒
Thomas avatarThomas2017-05-12
等等 組一台 是可以也把鍵盤算進去的嗎 XDDD
Iris avatarIris2017-05-16
鍵盤不算組成PC的必要元件嗎QQ
Lydia avatarLydia2017-05-19
強者我同學
Gilbert avatarGilbert2017-05-21
「電腦配備有時太好 會凸顯學習得不怎樣」問號.jpg
Caitlin avatarCaitlin2017-05-21
設備還好啦 我們學校之前連nvidia telsa還是Xeon ph
i(忘記是哪個了)都買了幾片跑專題了
Enid avatarEnid2017-05-21
f不錯啊,我公司家裡各一支呢
Ivy avatarIvy2017-05-24
Hamiltion avatarHamiltion2017-05-28
我們部門是12張titan xp.當然要開門開電扇...
Bennie avatarBennie2017-05-30
GTX Titan X、Nvidia Titan X、Titan Xp
這命名真的有夠爛
Mason avatarMason2017-06-01
反正同時期只能買到其中一張.這種東西花公司錢就沒
差了
Dora avatarDora2017-06-03
前面幾篇的dick Learning配的超詭異的
William avatarWilliam2017-06-08
不是每個人都可以捏到100k的
Emma avatarEmma2017-06-10
公費出的話最爽
Daph Bay avatarDaph Bay2017-06-14
我當初遇到bug 直上hipro 就找到問題了
Odelette avatarOdelette2017-06-17
推熱心,我配的跟你40~60k的差不多,就CPU,GPU較低階
Tracy avatarTracy2017-06-17
SSD 不上PCIe 的嗎? 快很多
Lucy avatarLucy2017-06-22
Pcie只是界面(遮臉)
Queena avatarQueena2017-06-25
mayjan那句話是DL界的笑話嗎?我聽李宏毅講過
Tristan Cohan avatarTristan Cohan2017-06-30
苦命研究生+1,我只有自己e3-1240v2+K600可用,
一個train要搞一個禮拜以上才能測完QQ
Caitlin avatarCaitlin2017-07-01
現在CPU還會選 Intel 的 i5 i7 嗎?
Connor avatarConnor2017-07-03
平行運算的話 Ryzen 應該比較強吧
Jacky avatarJacky2017-07-07
會選i5~i7的應該就剩公家機關與學校的台銀採購了
台銀有誰開標會去開Ryzen的主機
Connor avatarConnor2017-07-08
ryzen pcie通道比較少吧,重點是顯卡
Iris avatarIris2017-07-13
想到我兩年前用9600gt和e8400跑.... (菸)
電腦丟下去跑我就跑去酒吧等資料了XD
Tristan Cohan avatarTristan Cohan2017-07-15
平行運算的操顯卡,依賴CPU的場合相對少
Andy avatarAndy2017-07-18
有錢真好
Frederica avatarFrederica2017-07-22
口袋深度學習機給推
Frederica avatarFrederica2017-07-26
不考慮都扔上aws去跑嗎,規模可大可小的比較自由
Thomas avatarThomas2017-07-26
對不起我眼殘沒發現是一年,適合DL的都是最近才開的
Necoo avatarNecoo2017-07-28
請問是什麼類的研究所呢 好好奇
Barb Cronin avatarBarb Cronin2017-07-30
deep learning用7700k?怎麼想都怪怪的
Robert avatarRobert2017-08-04
雖然說機器學習是吃重顯卡啦 但7700k...怎麼看都是r
7適合
Ethan avatarEthan2017-08-08
用7700K 1.PCIE通道比較多 2.不想硬體Debug
coding的bug都解到累了
Ethan avatarEthan2017-08-11
我也不用R7我自己是感覺INTEL CACHE技術是外星科技
不是多開幾核跟的上的
Kristin avatarKristin2017-08-15
看到現在的GPU都覺得K40有夠垃圾的哈哈幫QQ
Caroline avatarCaroline2017-08-20
都用這麼好了 鍵盤怎麼不用realforce的呢?
Genevieve avatarGenevieve2017-08-24
主流消費級比PCIE通道比較多 你應該是沒真的拿PC處
Andy avatarAndy2017-08-28
理過問題吧 再來快取技術? RYZEN這次是因為膠水
Elma avatarElma2017-08-30
導致L3延遲大 L1/2沒有輸甚至INTEL好嗎
Hedda avatarHedda2017-08-31
原PO試過用windows跑嗎 跟Linux比有什麼致命缺點嗎
David avatarDavid2017-09-02
去年六月拿1070上的時候也是各種kernal panic..新
平台就是這樣...
Skylar DavisLinda avatarSkylar DavisLinda2017-09-05
用windows會手賤跑去玩遊戲
Jacky avatarJacky2017-09-07
Linux也可以玩好嗎.......
Franklin avatarFranklin2017-09-11
現在裝windows版的tf跑作業 沒什麼大問題 有機會來
Hedy avatarHedy2017-09-11
研究linux吧...
Megan avatarMegan2017-09-14
很少人在windows上搞deep learning??
我這不是來了嗎?(我快被搞死了)
Hamiltion avatarHamiltion2017-09-17
請問ram會吃到64g嗎
Cara avatarCara2017-09-22
還有請問能用空冷系統嗎 水冷有點抖
另外鍵盤使用忍茶2白化版+PBT鍵帽XD
Edwina avatarEdwina2017-09-25
請問你是自組還是給廠商組?
Lily avatarLily2017-09-26
自己組 所以搞半天類累死
Hazel avatarHazel2017-09-28
tensorflow-gpu有windows版了 用windows跑已非問題
Charlotte avatarCharlotte2017-10-02
用linux的好處在於如果有需要改到tensorflow底層y
在linux重新compile tensorflow遠比在windows上簡單
Hamiltion avatarHamiltion2017-10-05
當然如果只是用tensorflow跑跑模型,windows跟linux
應該不會有太大的差異