变色龙 (@bianselong) 在 DeepSeek 爆红将加速端侧 AI 发展 中发帖
台积电和英伟达预计,到 2026 年,端侧 AI(on-device AI)将迎来快速增长。台积电在财报电话会议上提到,2026 年端侧 AI 发展将更加明显,而英伟达计划在 2025 年第四季度至 2026 年上半年量产其 AI PC 芯片 N1X / N1。
DeepSeek 爆红后,端侧 AI 的发展速度加快。
DeepSeek 的流行直接推动了英伟达 H100 训练需求的增长,表明优化的训练方法(可有效降低成本)能够刺激市场,同时也再次证明了 CUDA 生态的竞争力(用户为何选择 H100)。
更值得关注的是,DeepSeek 带动了本地大模型(LLM)部署的热潮。DeepSeek R1 通过优化训练方法,提升了本地设备上中小规模 LLM 的性能,而用户对云端 DeepSeek 服务的数据安全担忧也加速了这一趋势。预计未来将有更多类似 DeepSeek 的开源模型问世,进一步...