BHznJNs做了一个在大模型请求时自动调用搜索并附加搜索结果的插件 中发帖

之前做了这么一个大模型请求代理项目: 

我今天又写了一个插件,用于在请求时自动调用辅助模型判断是否需要进行联网搜索,并在搜索后将结果附加到上下文中。
插件代码如下,也可以在此获取。
在使用时需要设置 metadata 中 TAVILY_KEY 为你自己的 key
import { Plugin, generateText } from 'llm-hooks-sdk';
import { tavily } from '@tavily/core';

const SYSTEM_INSTRUCTION = `\
你是一个对话搜索决策专家。你的任务是根据最近的对话历史,判断当前是否需要调用搜索引擎获取外部信息来更好地回答用户的问题。

## 判断标准

### 需要搜索的情况:
1. **事实性问题**:涉及具体数据、日期、数字、统计信息等需要准确答案的问题
- 例如:"2023 年...