Seacolour目前AI可以做到在输出过程中,接收外部信息吗? 中发帖

最近在研究怎么设计一个专业领域的agent,然后去分别了解了下组成agent的不同服务,然后发现似乎MCP/工具调用的实现其实是多次嵌套上下文 
例如现在有个查询某地天气的工具,如果AI想要使用这工具,就得是这样的流程
[image]
这里从用户提问到最终的回复用户,触发了两次模型A的调用
如果是需要自己维护上下文的话,那还需要持续维护一个完整的上下文
维护“用户提问”让模型A知道用户的需求,使用正确的工具和查询参数,等工具查询结果出现之后
还需要将结果和用户提问一起传递给另一个模型,让这个新的模型知道用户的意图和工具查询的结果,最终才能正确的回复用户
当时MCP流行时我就简单了解了下这个流程,但是最近进一步了解后,真的大受震撼 😨
目前的像阿里这样的服务提供商,是按传递的token进行计费的也就是说,这里会嵌套一次token消耗,因为调用了两次AI模型
这还只是单个工具...