帕米尔 (@pamir) 在 医院诊室低配电脑运行本地AI模型有什么好的方案吗? 中发帖
帮朋友问的问题,他是社区医院的全科医生,经常会有诊疗过程中查指南或药品说明书的需求。
他们单位诊室电脑用的i5低压处理器,8G内存,没有独立显卡,不能连接外网。
单位比较穷,没钱上专门的服务器。请问现在有没有能在低配机器上本地部署的模型,能实现这个需求?