DGX Station 或是 自組 - 3C

※ 引述 《denru01 (阿儒)》 之銘言：
: 標題: [請益] DGX Station 或是 自組
: 時間: Tue Oct 2 14:19:14 2018
: 　
: 這幾天DGX Station又大降價(降了60萬),
: 開始在考慮是不是要購入一台,
: 主要看上的是他用NVLink2互連的4張V100 32GB.
: (雖然他的Peak Flops很高, 但正常使用跟便宜的遊戲卡其實差沒太多)
: 我知道Tesla相比GTX或RTX有點太貴了,
: 但目前工作一直卡在GPU Memory太小的這個問題上,
: V100的下一級P100或是Titan V,
: GPU Memory都只有16GB而已,
: 太小不夠用.

GV100比較適合，而且V100也有32GB，你到底拿哪張？

: DGX Station的宣傳都是說提供128GB GPU Memory,
: 不知道這純粹是說有4張32GB GPU,
: 還是這128GB是可以當成是1張有128GB的GPU呢？

後者，NVLink的好處

: 如果是後者,
: 這個是靠NVLink2達到的,
: 還是DGX Station有什麼巫術？

同上

: 除了直接購買DGX Station外,
: 也在考慮買V100或是其它的卡來自組.
: V100一張大約27萬左右,
: 自己買4張再加上其它東西的費用,
: 其實也跟直接買差不了多少,
: 而且NVLink2是不是買不到？

你現在用的RTX其實用的就是NVLink，不過價格加上不能用在專業用途加上你要四路需要特
殊卡，不如直接敗一套DGX

: 　
: 另一個選擇是如果NVLink2可以把很多張GPU的memory模擬成一張一起用的話,
: 買8張Titan V或許是更實惠的選擇.

Titan V(ista)只支援雙路NVLink

: 　
: 不知道有沒有先進有經驗能夠分享一下？
: 或是有什麼辦法模擬出超大GPU的Memory的方法？

HBCC，來自AMD的技術


--