lyzyyy 在 大模型应用疑惑 中发帖
最近一直在做云平台上大模型的应用,agent,workflow都是基于dify搭的,然后本地的大模型是内部搭的分布式vllm,mcp也写了一些内部的server。但是现在给我的感觉就是做个demo很容器,但是真正实现好用比较难,再加上具体要做的方向也不清晰,可能是智能化运维的点,不知道大家有什么想法么