DGX Station 或是 自組 - 3C

感謝回覆！

※ 引述《skycat2216 (skycat2216)》之銘言：
: ※ 引述 《denru01 (阿儒)》 之銘言：
: : 標題: [請益] DGX Station 或是 自組
: : 時間: Tue Oct 2 14:19:14 2018
: : 　
: : 這幾天DGX Station又大降價(降了60萬),
: : 開始在考慮是不是要購入一台,
: : 主要看上的是他用NVLink2互連的4張V100 32GB.
: : (雖然他的Peak Flops很高, 但正常使用跟便宜的遊戲卡其實差沒太多)
: : 我知道Tesla相比GTX或RTX有點太貴了,
: : 但目前工作一直卡在GPU Memory太小的這個問題上,
: : V100的下一級P100或是Titan V,
: : GPU Memory都只有16GB而已,
: : 太小不夠用.
: GV100比較適合，而且V100也有32GB，你到底拿哪張？

GV100又比V100更貴了. 我說的是Tesla V100 32GB.
Deep Learning使用.

: : DGX Station的宣傳都是說提供128GB GPU Memory,
: : 不知道這純粹是說有4張32GB GPU,
: : 還是這128GB是可以當成是1張有128GB的GPU呢？
: 後者，NVLink的好處
: : 如果是後者,
: : 這個是靠NVLink2達到的,
: : 還是DGX Station有什麼巫術？
: 同上

這個在實際上使用是什麼情況呢？
1. 使用nvidia-smi看到一張巨大的GPU?
2. 使用nvidia-smi看到四張GPU但可以用某些指令把他們合成一張？

: : 除了直接購買DGX Station外,
: : 也在考慮買V100或是其它的卡來自組.
: : V100一張大約27萬左右,
: : 自己買4張再加上其它東西的費用,
: : 其實也跟直接買差不了多少,
: : 而且NVLink2是不是買不到？
: 你現在用的RTX其實用的就是NVLink，不過價格加上不能用在專業用途加上你要四路需要特
: 殊卡，不如直接敗一套DGX

非商業使用無妨.

: : 　
: : 另一個選擇是如果NVLink2可以把很多張GPU的memory模擬成一張一起用的話,
: : 買8張Titan V或許是更實惠的選擇.
: Titan V(ista)只支援雙路NVLink

RTX 2080支援雙路, 但RTX 2080 Ti似乎支援三路？

: : 　
: : 不知道有沒有先進有經驗能夠分享一下？
: : 或是有什麼辦法模擬出超大GPU的Memory的方法？
: HBCC，來自AMD的技術

這個好像也沒有toolbox支援.

--

▂▃▄▃▂
◢ ˙ ◣
˙ ▅
▉▃ /◤ 喵喵~~~~
▊▏◣╲ˍ ╱▎

--