braket
1
https://marketplace.nvidia.com/en-us/enterprise/robotics-edge/jetson-developer-kits/
Jetson AGX Orin 适合放在家里做数据备份之类的。
楼主目前的设置：目前该机器连接在tmobile 的backup home wifi上，通过USB C外接了一个3T的nvme，该机器内部留有nvme插槽，但是打开机器不方便，所以目前是外接的nvme。通过cloudflare 的tunnel可以host personal website。Jetson也可以跑很多nvidia 做好的docker image https://catalog.ngc.nvidia.com/。cuda编程和host 自己的jupyter hub都可以。 Orin还有其它很多功能，楼主目前还从来没有使用过，如有建议欢迎交流。
成本计算：假如使用寿命为5年，共60个月，每月大概花费20刀。之前2018年楼主买过32GB的Orin，也是education discount，到现在依旧在经常使用。
刚发现nvme卡槽在外面，可以直接装上nvme
1 个赞
braket
4
我18年买过那个32G的orin，用起来还可以，外接nvme做数据备份，或者装个nginx做个人网站都是可以的。如果你对cuda编程感兴趣也是不错的选择。之前64G的一直卖2000刀，现在999，已经很便宜了。
maruha
7
论效率的话intel 核显性价比更高吧…
论质量那得堆电费上cpu硬算了
1 个赞
braket
8
orin的cpu是arm构架，节省电能。而且他是unified memory，cpu和cuda core可以直接共享内存。
nkc
9
我的建议是，amazon上面的二手macmini m2买一台跑asahi，999买三台还有找零，比这玩意好用多了。再说一遍：不建议购买
2 个赞
nkc
10
他的cuda不是一般的cuda，不是sbsa，全都要另外自己编译，全都不工作，nv自己都不想维护了
差不多就这感觉
1 个赞
braket
11
这个不是自带cuda sdk的吗？nvcc 是可以正常使用的。您说的需要另外编译是什么意思？
蚀心酸菜鱼
12
真的是，曾经想买结果看了一遍 Jetson Linux | NVIDIA Developer
自知对Linux了解太少就劝退了
braket
14
哦，这个的确是有些问题。连官方的docker image也跑不了。
但是如果自己写cuda代码，还是可以的
az8
15
Amazon.com: NVIDIA Jetson Thor Developer Kit : Electronics
看上去真是台不错的低功耗的算力机，128GB 跑 70B 120B LLM 真不错，但是内存带宽太小了，吐字可能会很慢？
nkc
16
现在可以建议购买了：Jetpack 7.2发布了，JetPack SDK Downloads and Notes | NVIDIA Developer 现在Orin也可以用和一般的Arm服务器一样的CUDA了
3 个赞
感谢分享。
jetson的数据读取速度好像比dgx spark慢很多。最近本来打算把好几个T的数据用jetson来处理，但实在太慢了。
