Schrödinger (@synbio) 在 Microsoft 刚刚开源了 bitnet.cpp，可以在 CPU 上本地运行多达 100B LLMs 中发帖Microsoft 刚刚开源了 bitnet.cpp 现在，您可以在 CPU 上本地运行多达 100B LLMs，（无需 GPU），并获得 5-7 个令牌/秒

Schrödinger (@synbio) 在 Microsoft 刚刚开源了 bitnet.cpp，可以在 CPU 上本地运行多达 100B LLMs 中发帖

Microsoft 刚刚开源了 bitnet.cpp 
现在，您可以在 CPU 上本地运行多达 100B LLMs，（无需 GPU），并获得 5-7 个令牌/秒。 
 [image]