林黛玉倒拔垂杨柳 (@Qiner)🌊 (๑•̀ㅂ•́)و✧ Gemini 的超长自动上下文缓存。 中发帖

(\ _ /) 
( ・-・)
/っ 我 2.15.1 的 NextChat 还不支持 Gemini 使用插件,新版支持了但我不想更新,所以还是叫 Gemini 帮忙找不同。
简而言之就是把 2 个 JS 合体整发抛过去,一共 600KB,换算是多少 Tokens 我也不知道,但应该只有 Gemini 支持这么大上下文。
[image]
[image]
NextChat 发送超长文本不卡死的方法(已被锁,悲):【绕远路】一个使用 NextChat 发送超长上下文不卡死的方法。
就是发送完立刻自动清掉输入框,不然浏览器会卡成狗。
[image]
然后,在本地再次请求的上下文里不再包含 JS 文件的信息、再次 POST 上下文中的 user 信息已被替换成 (๑•̀ㅂ•́)و✧ File sent! 😊
[image]
但仍然可以正确地输出抛过去的 JS 里面的...