fliper如何将大模型融合到输入法里?就是做一个单纯的纠错,最好是结合已经打过的字为上下文来纠错 中发帖

我们正在优化基于rime的医学输入法,试图把大模型技术加进来提高纠错能力,毕竟传统方法生成一堆词库,输入字母后逐个检索用起来会非常卡 
用大模型来纠错效果看起来还不错,但是延迟有点高
据报道搜狗讯飞等已经用上了,但不知道具体的细节,他们是拿大模型改的?还是专门训练了一个输入法用的大模型?(相比通用输入法更小)
至于我实际测试的话,讯飞的纠错功能确实挺好用的,但得联网
一点演示
[image]
其他
尝试过训练rime的模型,感觉效果不是很好,也许是我打开方式不对? Hyprland 配置 Fcitx5 输入法指南(配合雾凇拼音与语言大模型)已更新全新大模型 wanxiang-lts-zh-hans