SHENZHEN I/O 挂机玩家 (@RickoNoNo3)突然想到一个端侧模型的问题 中发帖

如果未来每个应用都部署一个小型端侧模型的话(虽然小但也没有那么小),那最后端侧显存还是会炸,会成为一个显存地狱。就像每个软件里都嵌electron/cef形成内存地狱一样。以后会不会有webview2之类的系统级统一调度标准呢?