Model XP (@yixiaochuan) 在本地部署70b以上的满血版R1,大概需要什么配置电脑? 中发帖用了几天,普大喜奔国产大模型R1真的有O1水平了. 很想知道部署70b或者以上的满血版,最好配合RAG有余量点,需要多大显存? 4w左右的mac studio有希望吗?

Model XP (@yixiaochuan) 在本地部署70b以上的满血版R1,大概需要什么配置电脑? 中发帖

用了几天,普大喜奔国产大模型R1真的有O1水平了. 
很想知道部署70b或者以上的满血版,最好配合RAG有余量点,需要多大显存? 
4w左右的mac studio有希望吗?