@qi_xing_jk 在有没有超低延迟的翻译方式？中发帖偶尔需要用这个 SakiRinn/LiveCaptions-Translator: Lightweight and powerful real-time audio/speech translation tool based on Windows LiveCaptions. ，但翻译的延迟不是太满意，本地的qwen2.5-7b-instruct-1m（LLM studio直接OpenAI方式接入的，延迟要差不多100-200ms，不知道是换个国内在线翻译还是本地换个模型跑更加偏爱本地LLM方式，但主要是不太懂本地翻译模型

@qi_xing_jk 在有没有超低延迟的翻译方式？中发帖

偶尔需要用这个 SakiRinn/LiveCaptions-Translator: Lightweight and powerful real-time audio/speech translation tool based on Windows LiveCaptions. ，但翻译的延迟不是太满意，本地的qwen2.5-7b-instruct-1m（LLM studio直接OpenAI方式接入的，延迟要差不多100-200ms，不知道是换个国内在线翻译还是本地换个模型跑 
更加偏爱本地LLM方式，但主要是不太懂本地翻译模型