这卡确实是本地机器学习目前的唯一神
CUDA环境 + nvlink + 384 bit 位宽 + 不需要魔改风扇,3090就是目前美国市场性价比最高的单卡/双卡解。
唯一缺点就是这卡有点老,现在卖到800 USD这价位对于一张5年老很可能经历过一次ETH矿潮的卡来说是有风险的,毕竟这卡肯定没保显存又热到爆。此外3080 20G魔改也是可以考虑的卡,这卡最近在美国也有点热度。
我的观点是你先看你要多少显存,重推理还是重训练,再决定。另外一点是如果你是显卡 + 大内存混合推理的方案那最近的抽象内存价格也是需要考虑进去的一点,要么做等等党要么吃$10+ / G的高价内存。
GB10确实不如m5 max方案,256 bit的soc跟512 bit的碰瓷推理能力是不可能碰的过的,GB10的CPU方案也是纯抽象。