@Yorha 在 【OpenWebUI】新版下开关模型原生能力更优雅的方式 中发帖
需要v0.6.10版本
新版本对Filter函数新增了Toggle属性,可以在输入框下增加切换按钮来控制Filter函数生效
以下是我的配置示例,具体参数设定仅对LiteLLM中转的api有效,NewAPI类可以参考修改:
联网搜索:
"""
title: 联网搜索
description: 原生联网搜索
"""
from pydantic import BaseModel, Field
from typing import Optional, List, Dict, Any
class Filter:
class Valves(BaseModel):
priority: int = Field(default=100, description="优先级")
pass
def __init__(self):
...