机器学习跟数学有着紧密的关系，因此掌握一些常用的数学知识点，有助于我们理解某些模型的底层相关原理。

---

1、泰勒公式

2、驻点、极值点、鞍点、拐点

2.1、驻点

  在数学，特别在微积分，函数在一点处的一阶导数为零，该点即函数的驻点（Stationary Point）或稳定点，也就是说，若 p p 为驻点则dydx|p=0$\frac{dy}{dx}{|}_p=0$。

2.2、极值点

  在数学中，极大值与极小值（又被称为极值）是指在一个域上函数取得最大值（或最小值）的点的函数值。而使函数取得极值的点（的横坐标）被称作极值点。这个域既可以是一个邻域，又可以是整个函数域（这时极值称为最值）。
  值得注意的是：极值点不一定是驻点；驻点不一定是极值点。对于可微函数，极值点一定是驻点。

2.3、鞍点

  一个不是极值点的驻点称为鞍点（Saddle Point）。具体可见以下两幅图：

  思考一个拥有两个以上变数的函数。它的曲面在鞍点好像一个马鞍，在某些方向往上曲，在其他方向往下曲。在一幅等高线图里，一般来说，当两个等高线圈圈相交叉的地点，就是鞍点。例如，两座山中间的山口就是一个鞍点。

2.4、拐点

  拐点（Inflection Point）或反曲点是一条可微曲线改变凹凸性的点，或者等价地说，是使切线穿越曲线的点。

3、范数

4、点到超平面的距离

5、距离度量