目录帖： 

写着写着梦游了，所以只好改标题单开一章 
===============正文分割线=============== 
警告：本章含有大量Transformer相关的粗浅知识。笔者也不是特别精通，仅供参考。 
在又一个普通的清晨，你又在工位上吃着早餐，突然你的领导又又又叫你去会议室，等你再出来时又已经是彻底无语。 
“网络安全…公司信息安全…私有化…本地部署” 
好，你大概能理解公司领导那莫名其妙的掌控欲，那么有什么卡可以用呢？八张H100还是一张3060？可你根本不了解大模型的知识。 
小贴士： 

开放模型的权重可以在Huggingface和ModelScope下载。这也是目前世界和国内最流行的两个大模型权重托管平台
Huggingface被墙了，但有镜像站：https://hf-mirror.com
虽然ModelScope在国内，但有时候会遭到莫名其妙的限速，hf-mir...