nianxi666 (@tgedang) 在 无限白嫖80g显存的ai算力显卡H100在线运行flux .1 krea 中发帖
我之前发布了很多白嫖A100在线运行各种开源模型的教程,包括flux.1 dev以及cogvideo,这些模型都需要大量的gpu显存才能正常运行,对于只有40g显存的a100来说,还是太勉强了,只能把显存的压力转移到内存,但是推理速度又会大打折扣,而且部署模型的过程相对来说还是很繁琐,对于平常很忙却又热衷于机器学习的佬友,更是雪上加霜。
作为linuxdo的一份子,我想尽我最大的能力造福所有佬友和开源社区,所以我搭建了一个公益网站,我给他取了一个响亮的名字“南瓜AI”,类似falai,可以运行各种开源模型,比如flux和qwen-video等需要大量显存的开源项目,这些模型需要40g到100多g不等的gpu显存,而我的公益网站就是致力于永久免费提供80g显存的H100和B200一键运行这些模型,模型部署都给你省了,直接运行。
目前我的公益网站一共提供三种gpu,首先是a100(80g)...