yongru cheng模型预测置信度是与内部模式的匹配度,而不是真实的置信度[欢迎佬友一起讨论] 中发帖

原文链接:模型预测置信度是与内部模式的匹配度 
在机器学习,特别是分类任务中,模型的“预测置信度”通常指模型对其预测结果的“确信程度”,这个值一般来源于 Softmax 函数的输出,另外还有一种统计置信度,两种“置信度”有根本区别。
Softmax 函数将模型最后一层的逻辑输出(logits)转换成一个概率分布。这个概率分布中的最大值,就被通俗地称为“置信度”。
例如,一个图像分类模型对某张图片输出的 Softmax 概率为 [猫: 0.95, 狗: 0.04, 鸟: 0.01],那么模型会预测该图片为“猫”,并给出 95% 的预测置信度。
高置信度 ≠ 高准确率
这是一个至关重要的区别:模型的预测置信度不等于它预测正确的真实概率。它仅仅反映了输入数据在多大程度上符合模型在训练中学到的关于某个类别的模式。
一个模型完全可能非常自信地给出一个完全错误的答案。主要原因有二:

模型校...