DL的数学基础

加、减、乘、除  建立在1+1=2的定义之上(皮亚诺定理)

指数

对数

极限

设{xn}为一无穷实数数列的集合。如果存在实数a,对于任意正数ε (不论它多么小),总存在正整数N,使得当n>N时,均有

不等式成立,那么就称常数a是数列{xn} 的极限,或称数列{xn} 收敛于a。记作

两个重要极限

1、

2、

(其中

是一个无理数,也就是自然对数底数

导数

函数y=f(x)在点x0的某个邻域内有定义,当自变量x在x0处有增量Δx,(x0+Δx)也在该邻域内时,相应地函数取得增量Δy=f(x0+Δx)-f(x);如果Δy与Δx之比当Δx→0时极限存在,则称函数y=f(x)在点x0处可导,并称这个极限为函数y=f(x)在点x0处的导数记为f'(x0),也记作y’│x=x0x0

,即

导数与物理,几何,代数关系密切:在几何中可求切线;在代数中可求瞬时变化率;在物理中可求速度、加速度。

 图片引自维基百科

一个实值函数的图像曲线。函数在一点的导数等于它的图像上这一点处之切线的斜率。

微分:

微分是对函数的局部变化率的一种线性描述。微分可以近似地描述当函数自变量的取值作足够小的改变时,函数的值是怎样改变的。

函数在一点的微分。其中红线部分是微分量\textrm{d}y,而加上灰线部分后是实际的改变量\Delta y

 

导数f'(x)是切线斜率,微分dy是切线升降量,是导数与自变量微元dx之乘积。
关系式dy/dx=f'(x)表示因变量微分dy与自变量微分dx之商等于导数,因此导数又称之为微商。

积分:

 

偏导数:

表示固定面上一点的切线斜率

梯度:

向量微积分中,标量场梯度是一个向量场。标量场中某一点的梯度指向在这点标量场增长最快的方向(当然要比较的话必须固定方向的长度),梯度的绝对值是长度为1的方向中函数最大的增加率,也就是说|\nabla f|=\max_{|v|=1} \{\nabla_v f\},其中 \nabla_v代表方向导数。以另一观点来看,由多变数的泰勒展开式可知,从欧几里得空间RnR函数的梯度是在Rn某一点最佳的线性近似。在这个意义上,梯度是雅可比矩阵的一个特殊情况。

在单变量的实值函数的情况,梯度只是导数,或者,对于一个线性函数,也就是线的斜率

梯度一词有时用于斜度,也就是一个曲面沿着给定方向的倾斜程度。可以通过取向量梯度和所研究的方向的内积来得到斜度。梯度的数值有时也被称为梯度。

 

发表评论

电子邮件地址不会被公开。 必填项已用*标注