hahazhuq (@whp98) 在 docker容器跑ollama 和 openchat ui 中发帖
Docker中跑Ollama 和 openchat ui
原文 Docker中跑Ollama | 技术凡人
本人环境
ubuntu 24.04
4060ti 16G
一、环境准备
安装docker-ce
安装docker-ce
安装docker-compose
Install | Docker Docs
配置安装docker gpu运行时
Installing the NVIDIA Container Toolkit — NVIDIA Container Toolkit 1.17.0 documentation
Resource constraints | Docker Docs
4. 安装vscode
5. 安装vscode docker 插件
二、准备docker-compose文件
新建一个目录 ollama-openwebui-docker-compose
在...