@Eznait 在 刚需不多但什么都想玩,第一台本地 AI 设备应该如何选? 中发帖

最近想入手一套个人 AI 算力设备,主要跑文生图、TTS、OCR、照片和视频索引之类的本地项目,如果性能足够也想尝试文生视频(非刚需),不确定自己会不会需要本地模型。这是我第一次考虑选购这类设备,之前主要用云端算力,或者用我手上的一张几年前的 A 卡解决,确实不太顺手。 
目前在消费级显卡、统一内存设备和二手数据中心 GPU 之间反复纠结,50 系显卡、Mac mini / Studio、DGX、N1X,甚至包括 V100、魔改 3090 之类的方案都看过,越看越觉得预算还要加😭
我觉得自己并没有本地跑大语言模型的刚需,现在各种模型订阅用得很丝滑。但最近看到 Strata 之类的推理框架,又开始惦记跑更大的本地模型。
探索欲泛滥导致我一直没有明确的心理预算,在最小可用和一步到位之间反复横跳。
担心真正想玩的时候跑不动,又怕预算拉满之后满足的只是自己对未来玩法的想象。毕竟有些需求确实是...