vfx (@freebsdfx)我发现量化版本和非量化版本,在处理文件上面区别特别明显。 中发帖

有一个GPS定位的纯文本数据(大概200行),给AI后,让AI用markdown表格形式完整复述出来,不用加工处理数字。 
分别试了ollama几个量化模型,以及float16完整参数的对比版本。无一例外,量化版本数据复述到一半的时候,必然会错乱(应该理解为计算错误累计?)
只有f16完整版本,才能从头到尾,完成正确输出。