什么是 Normalize？它干嘛的？为什么 std 和 mean 要设成 0.5？归一化和标准化，这到底是什么？
网上的说辞各执一词，没有一个统一的标准和意见。现在，笔者尽量以最严谨的方式（包括用词、公式、翻译不统一之处使用英文原文等等），把对于标准化与归一化（即所谓的Standardization与 Normalization）的最权威解释分享出来试图解释这个问题。如有纰漏，欢迎各位佬友指正 🤔 
首先从源头讲起。让我们把脑海中的所谓 标准化 、 归一化 这些中文翻译抛到九霄云外，之所以中文里有 “标准化”、“归一化” 混用和很多人搞不清区别，是因为目前中文翻译对几种 Normalization 的翻译是有些歧义 ，尤其是部分博客文章完全混用。 
通常来说，它们都是指特征工程 中的特征缩放过程，由于中文翻译的原因，网上对它们的解释也是五花八门，但其实我们不考虑它们的名字，直接看它们的作...