蟹黄堡 (@Lame1255) 在 公司闲置了一台 DGX Spark,除了跑大模型,还有啥好玩的?求佬们分享玩法 中发帖
公司空闲了一台 DGX Spark,128GB 统一内存、Blackwell 架构,放着也是放着,想和同事拿来捣鼓一下 😁
本鼠目前在做一些 AI 方向的工作,但拿到这个盒子,第一反应还是装个 llama.cpp 跑本地模型,再搞个 Whisper 做语音转文字。想来想去都没跳出这几个用途,感觉思路有点局限了。
所以想来问问佬们,除了部署一个模型聊天,这种机器还能拿来折腾哪些有意思的项目? 工作上能用的可以,纯粹好玩、能学点东西的也行,不一定非得围着大语言模型转。
有没有佬手上也有这台,或者类似的设备?你们最后拿它干啥了,有哪些是折腾完真的一直在用的?有现成的开源项目也求推荐,想找点方向动手试试。