写在前面
最近因为课程原因在学一些算法，但感觉不去用就很容易忘记。 
于是就想输出出来，写个博客什么之类的。 
感觉 L 站是个很好的平台，就发了这个帖子。 
算法也是刚学，如果有哪里不对，欢迎各位佬友指正。 🥳 

要解决什么问题？
以机器学习的线性回归为例，在单变量线性回归中，要构建一个线性模型，需要得到参数 \vec w,\ b 
线性模型预测的好坏取决于参数的选择，要评估优劣，需要借助代价函数（cost function） 
比如线性回归常用的平方误差代价函数 

J(w,b)=\dfrac{1}{2m}\sum_{i=1}^m(\hat f^{(i)}-f^{(i)})^2

如果希望模型最好，那么平方误差代价函数就最小 \large \min J(w,\ b)=J(w_0,\ b_0) ，因而得到最好的参数选择 \large (\vec w_0,\ b_0) 
让函数值最小，这...