100K 深度學習機 - 3C

最近深度學習 (Deep Learning) 還蠻紅的
紅到什麼程度呢 ? 讓 NVIDIA CEO 老黃都自稱 NVIDIA 是 AI Computing Company
NV兩年內股價漲 5 倍 GTC 大會整場都在宣傳 AI / Deep Learning

有興趣可以看老黃 GTC 大會演講
https://www.youtube.com/watch?v=FPM3nmlaN00

剛好小弟苦命研究生 論文是做這個題目
無奈 Server GPU 大家都要用 很難搶到運算資源
於是乾脆自己組一台 PC 來跑

分享一下自己目前組的這台機器 供大家參考

--

CPU intel i7-7700K 10,800
MB ASUS Z270-AR 4,690
RAM 美光 DDR4-2400 16G ----- x4 12,000
GPU MSI 1080Ti Sea Hawk X --- x2 50,000
SSD 美光 MX300 750G SSD 6,000
HDD Toshiba 2TB 2,000
PSU Leadex 1000W 白金 5,000
CASE Corsair Carbide 400R 2,500
LCD LG 29UM57 7,500
KB Filco 忍者 茶軸 + PBT 鍵帽 5,000
MOUSE 羅技 G402 1,000

----------------------------------- Total ~ 100,000

-- 同場加映 如果只有4~6萬預算 建議的配備

CPU intel i5-7500 6,400
intel i7-7700K (+5,000)
MB B250系列 自選 3,000
RAM DDR4 16G*2 6,000
GPU MSI GTX1080Ti GAMING X 24,600
GTX1080 系列 自選 (-7,000)
GTX1070 系列 自選 (-10,000)
SSD MX300 525G 4,500
MX300 275G (-2,000)
HDD Toshiba 2TB 2,000
PSU 台達 650W 2,500
CASE 自選 2,000

----------------------------------- Total ~ 50,000


回正題 來看 100K 水冷的配置

外觀
http://i.imgur.com/SqQPHav.jpg

開側板
http://i.imgur.com/W03PGoq.jpg

顯卡水冷直通機頂
http://i.imgur.com/19E9XXx.jpg

從外面(上方往下看) 高級發光烘手機
http://i.imgur.com/qXpRDyb.jpg

箱子排排站
http://i.imgur.com/ufK69uR.jpg

待機 35度 (室溫28)
http://i.imgur.com/Jvf71C0.png

Furmark 燒機10分鐘 65度 水冷壓制力十分驚人
http://i.imgur.com/R9X56Zh.png

跑 deep learning (trainging) 可以看到完全把 GPU 吃滿滿
http://i.imgur.com/jMVCWRl.png

--

心得

其實之前一直沒用過水冷的，這次被店員洗腦說沒差一千塊，直上比較好。
裝上去實測確實散熱能力很好 ( 相較另一張 MSI Gaming X 80度)
整體噪音還可以接受 但還是有風扇聲 ( 因為機殼一堆洞 )
我自己裝弄了半天 零件卡來卡去 要橋很久 建議請店員裝 省事 = 3 =

備註

1. 原本直接拿海盜 RM650i 跑 兩張 GPU 同時滿載 = 斷電關機
這樣的配置 1000W 是必要的

2. 用兩張水冷 1080Ti 算是失誤買的 最好還是買公版 不然裝機弄半天 累死
要雙GPU以上的話, 千萬不要買 2.5 槽的顯卡 e.g. ASUS STRIX, MSI Gaming X.
會吸不到冷風 且對流極差

3. 如果只有單張 1080Ti 650W 應該就OK了

4. 不要買 TITAN X系列 or Server用的 GPU 除非你錢太多沒地方花
個人/實驗室用 5~20萬 1080 ~ 1080Ti SLI 這樣組 C/P 最高

5. i5 / i7 沒差多少錢 ( 相較之下 ) 建議直上 7700K
畢竟 preprocessing 還有其他東西 蠻多也需要 CPU 來算

6. RAM 可以的話也塞到 64G 比較好 像是 dataset 可以直接塞到 RAM 很爽
避免 RAM 不夠大 會切到 swap 造成 read/write 時間拉長

7. SSD 建議 500G 以上 有錢的話買個 1T PCIE SSD 更好
因為像是 image 相關的 dataset 很容易都 100G 以上
還有 train 出來的 weight 也都蠻肥的

8. 如果沒電腦的想租 AWS / GCP 雲端主機 GPU 來跑的話 建議可以放棄這條路了
雲端目前都是骨董級 GPU K80 $ 0.7 USD/hour = 500 NTD/day = 15K NTD/month
更何況 K80 比 1080TI 不知道慢幾倍


大概是這樣 小弟做這個領域一年的心得 供大家參考

--