ee (@qwe_ewqqq) 在 open-webui是怎样实现流式输出的呢? 中发帖
佬们,想结合open-webui与langchain实现对sql数据库的连接查询,目前写了一个脚本,用langchain封装好的库,能够根据用户问题实现连接数据库进行查询,但是langchain这一块的库函数目前在脚本中看到的是查询后,一起进行输出,反馈到webui就会表现很卡顿的效果,想实现流式输出,有大佬有相关的经验吗?贴下我的脚本代码~
from langchain_community.utilities import SQLDatabase
import getpass
import os
from langchain_openai import ChatOpenAI
from langchain.chains import create_sql_query_chain
from langchain_core.output_parsers import StrOutpu...