IT小埋 (@pongf_soro)甲骨文服务器跑AI大模型,大家测试过吗? 中发帖

看到宝塔面板的docker商店里面有很多AI服务,甚至有deepseek,那我是不是可以不用买API token了,自建搭建了 🤣 🤣 
甲骨文的4H24G应该还行把,我的Macbook才16GB RAM都能勉强运行12B左右的大模型了。对了,我的甲骨文ARM服务器,好像只能装apache,不能装nginx,大家也这样吗,好像兼容性部署很好,对于ARM的机器。
[截屏2025-10-22 15.37.58]