@list 在 佬们,有没有什么模型分流的工具? 中发帖
在使用roocode这类工具时,我发现大模型总是在生成todo list,和系统交互、和MCP交互时消耗太多时间。
而我觉得AI本身用来生成代码等“内容”才是核心使用的点,而这些交互功能消耗了太多AI的“精力”。
所以我的想法是,有一个办法将这两类使用方式分流,交互类的用小模型或者本地模型更快速的处理,涉及“内容”生成的时候才用AI大模型