jcjrobert 在 公司要我本地跑个可以识别视频的大模型，有什么合适的吗 中发帖
服务器配置：8卡Tesla T4
尝试用docker跑qwen2-vl，但Tesla T4好像不支持，没跑成（我家里电脑的4060 Ti倒可以），有什么其他合适的模型吗，最好是可以一键化部署的
本人日常没接触过AI模型本地部署，突然被拉来搞这个也挺懵逼的，然后上级也不会这个 🙃