最近一直在纠结这件事情。lz获得了淘汰下来的两张1080Ti和两张2070 Super,想好好利用它们,但没有自己的PC。lz是CS PhD但对装机不太懂。主要需求是挂壁跑quantize过的大模型或者训练一些小模型。比如4-bit Vicuna-33B,差不多一张3090/4090可以装得下,大概也就是两张1080Ti装得下?可以几乎忽略的需求是PC游戏,因为只要不追求帧率,1080Ti仍然够用。
请问藏龙卧虎的泥潭,这种特殊情况下如果想把四张卡都用上该买什么样的主板,以及电源?我们lab server插上这些卡就直接关不上盖子导致过热了,只能自己想办法。据我所知满足这些要求的应该不多,因为pcie带宽可能跟不上,且价格或许不便宜。抛砖引玉,求指教
BTW,附近有Microcenter。
6 个赞
AMD/INTEL高端芯片的高端带切分板子,不过讲真还是服务器级主板省心
1 个赞
最好能一台电脑搞定,这样可以进一步扩大可能的VRAM。做深度学习首要需求就是大VRAM。
这需求最挂逼的玩法可不就是多买点淘宝改好的22G 2080ti吗,不过想要低成本多pcie通道主板的话,建议淘一下EBAY的各种tower server或者workstation,约等于不要钱
开了眼了,但是实在没有火眼金睛去淘二手。许多看起来成色都是战损级别的,风险太大了。
SW_WF
12
如果挂壁点的话x99最好
其他一般的atx板子大多数第二条是x8 损失点带宽但也够你的卡了
1 个赞
x99和x399是同系列新旧的关系吗?为什么你们有人说x99有人说x399?
vczh
14
你这样也得两台机器,插四个卡的消费级主板我觉得是不存在的 
1 个赞
amao
15
X99是intel至强系列的主板,X399是AMD线程撕裂者系列的主板。
不过X99平台只能提供两个3.0x16吧,X399倒是有四个。
2 个赞
amao
16
县城撕裂者也是消费级哦,主板至少4个全长X16插槽,WRX80甚至6个起步
vczh
17
不少显卡至少久占了两个位的体积了,虽然你有四个口,但是没地方给你放 
amao
18
板卡厂:想不到吧,我会把X16插槽隔开放,每槽都能插双槽卡
4 个赞
wyvern
19
你插一台电脑上vram也大不了,通信还是要通过总线,除非只data pallraize
1 个赞