多玩幻灵qwq (@huanlin) 在 已经过去一年了吗 中发帖
[image]
模型是Jul 25, 2024调的，有点感慨，当初还以为llm这条路小模型赢麻了，后面发现这条路根本走不通
仓库 HuanLin/AkayaLLM · Hugging Face
模型只有8b参数，非常小
快速体验:
wget https://huggingface.co/HuanLin/AkayaLLM/resolve/main/q4_0_akaya.gguf?download=true -O q4_0_akaya.gguf
wget https://huggingface.co/HuanLin/AkayaLLM/resolve/main/ModelFile?download=true -O ModelFile
ollama create akaya -f ./Modelfile
rm q4_0_akaya.gguf Modelfile
ollama run a...