@seldoms 在 关于使用immich智能搜索大模型远程计算的一点思考 中发帖
在佬友帖子的基础上,得知有更新版本的大模型可以使用。这里我分享一下我的操作流程。
NAS上天然适合存照片,视频,工作站上天然适合跑大模型。而immich官方就已经支持了这个思路.在immich后台配置上内网的本地算力,就可以让NAS给工作站发任务。
1·部署本地大模型算力,以下为大模型生成的配置,目的是使用N卡的算力,其他的算力需要对应的容器版本,这点需要注意一下。
immich-machine-learning:
container_name: immich_machine_learning
# 为了启用硬件加速,使用支持 CUDA 的镜像标签
image: ghcr.io/immich-app/immich-machine-learning:commit-472e6c86e36df8313089b57ba80c864e444952ce-cuda
...