SayWhat13open webui里使用github models的正确方法? 中发帖

github models的模型上下文严重受限,大部分都是4k in,4k out,所以导致openwebui发几条就报错了。 
[image]
尝试设定了一下对话设置里的上下文长度和最大token,长了仍旧报错。
[image]
大家有特别技巧吗? 谢谢!