hahazhuq (@whp98)docker容器跑ollama 和 openchat ui 中发帖

Docker中跑Ollama 和 openchat ui
原文 Docker中跑Ollama | 技术凡人
本人环境
ubuntu 24.04
4060ti 16G

一、环境准备

安装docker-ce
安装docker-ce
安装docker-compose
Install | Docker Docs
配置安装docker gpu运行时
Installing the NVIDIA Container Toolkit — NVIDIA Container Toolkit 1.17.0 documentation

Resource constraints | Docker Docs
4. 安装vscode
5. 安装vscode docker 插件
二、准备docker-compose文件
新建一个目录 ollama-openwebui-docker-compose
在...