@FrankorzAI 开发经验总结 中发帖

之前发布过两篇文章来分享我AI开发的经历: 
https://linux.do/t/topic/759302


今天稍微总结了下,希望对大家有帮助。

勤写日记,不然这篇文章就不会存在。
项目的初始设计思路

复刻项目

我想要复刻 sillytavern 酒馆核心功能来练手,我会提前让AI规划好模块。
酒馆本质是通过非常自由的 prompt 自定义来调整AI输出,因此和AI设计划分了五层模块:

底层的核心处理的纯函数模块:prompt处理、regex处理、宏处理、角色卡解析、世界书解析等等
抽象接口层:存储模块(支持纯文件、sqlite等)、llm抽象、扩展系统等。
业务逻辑层:service 模块(单会话业务逻辑,prompt处理流水线)、memory 模块(记忆系统例如RAG)
服务编排层:orchestrator模块(资源管理和配置)
应用接口层:单独一个模块提供开箱即用的...