Online GPU 平台求推荐

lab server用的人太多于是想稍微氪金一些credit能方便自己用

大致需求

  1. 支持conda且系统新一些 要用的package卡GLIBC版本
  2. 便宜 一年$500以内 最好credit不要太快就过期了
  3. GPU机时充足 算力能有A5000上下就行
  4. 足够的存储 dataset有点大… 最好能保证50G-100G存储

colab肯定不考虑
paperspace的订阅试了 不支持conda(每次都重置)且订阅只是能用高级GPU 要想稳定用还要单独买credit

目前在考虑lightening ai 和 AWS(founderscard好像送大量AWS credit) 不知道还有没有其他平台推荐?

1 个赞

买一台4090,不用了再卖了,可能一年$500以内?

去找有GPU的人合作就好啦~

光数据存储和传输就不少钱吧 :yaoming:

没有数据跨境问题的话去国内租。听说最近国内屯了太多A100 H100价格反而比美国低。或者找“云电脑”带显卡的实例用4090,错峰使用,国内的半夜特别便宜。

找显卡多的合作者也是好方法。

可以试试二手GPU云,很多矿机卡,便宜

AWS挺好的,还可以薅一薅edu credit

看了下这个算力很弱啊。。。 右转PC帖,买个4070Ti Super都比这个强?

震惊
还以为专业卡会有些隐藏优化…
我现在用的4070 模型显存目前不是大问题 看来最挂壁的解法是给自己的PC装个linux…
氪金甚至能提高效率…

一定要linux吗,windows环境其实很多还是能解决的吧。
而且弄个WSL应该也蛮快的。

需要8卡 不知道一小时$5-$8能租到啥样的 最好页面友好一些

runpods用过了 体验很差 86000Ada会卡NCCL timeout 84090还没有组里服务器8*A5000并且CPU被人用了一半算力跑得快。。。

1 个赞

是连续使用还是就一次性的?商业用途还是hobby还是学术?$8一小时就是说想$1/hr card租卡?

Google Cloud Vertex AI :yaoming:

cloud gpu用来做什么?

同问. 我想体验私有部署全量 deepseek 尝试public API 搞不了的东西.

大概需要1-2 张a100水平的,可以走账的(不走也可以,receipt可以走学校报销)

1 个赞

各个云厂商就可以了吧

我感觉我的规模比较小,预算大概花销少于1w 233333.

杂牌厂商比较便宜,比如 ori ,你也可以去币圈平台看看, hyperbolic.xyz 之类的

2 个赞