一、前述 数学基础知识对机器学习还有深度学习的知识点理解尤为重要，本节主要讲解极限等相关知识。 二、极限 1.例子 当x趋于0的时候，sin(x)与tan(x)都趋于0。但是哪一个趋于0的速度更快一些呢？ 我们考察这两个函数的商的极限， 所以当 x → 0 的时候，sin(x) 与 tan(x) 是同样级别的无穷小。 2.相关定理 如果三个函数满足 f(x) ≤ g(x) ≤ h(x)，

如果是正数，并且它们的和等于1，f是凸函数，那么： 也可表述为：   即x期望的凸函数值小于等于x凸函数值的期望

1.Schwarz 不等式 对于任意的随机变量 和 均有                                          证明：假设，否则，有,所以不等式成立。我们有                                  即  . 2. Markov不等式 设随机变量  只取非负值，则对任意的 ,

一、前述 数学基础知识对机器学习还有深度学习的知识点理解尤为重要，本节主要讲解极限等相关知识。 二、极限 1.例子 当x趋于0的时候，sin(x)与tan(x)都趋于0。但是哪一个趋于0的速度更快一些呢？ 我们考察这两个函数的商的极限， 所以当 x → 0 的时候，sin(x) 与 tan(x) 是同样级别的无穷小。 2.相关定理 如果三个函数满足 f(x) ≤ g(x) ≤ h(x)，