Alex Yang (@knetxp) 在 本地部署的AI模型如何突破Tokens限制? 中发帖
单词输入输出量也不是太大,可能单次两三万字的输入或输出量,4096应该是不够用的。
通过LM Studio或AingDesk在本地部署,可以突破限制否?
单词输入输出量也不是太大,可能单次两三万字的输入或输出量,4096应该是不够用的。
通过LM Studio或AingDesk在本地部署,可以突破限制否?