0123数学-向量-梯度-梯度下降

点击这里进入人工智能嘚吧嘚目录,观看全部文章

向量Vector

向量就是有方向的数量。

我们日常使用的数字都是一维的,就是说只有一个x方向,越往右数字越大。同样可以说,任意一个数字都表示了这个方向上的一个位置。只有一个方向的一般不叫向量而叫标量

《0123数学-向量-梯度-梯度下降》

但在二维平面中要表示一个点,就需要横向和竖向两个数字了。

《0123数学-向量-梯度-梯度下降》

上图可以换一个用箭头表示的方法,你会发现神奇的规律。

《0123数学-向量-梯度-梯度下降》

图中线段a’是由线段a向右平移2向上平移1复制得到的,b’是由b平移复制得到的,这样就得到一个平行四边形,而右上角的点的x、y位置肯定相当于A、B两个点x和y分别相加的结果,即A+B。

(1,3)这样用两个数字表示平面上一个点,或者说表示从(0,0)出发到这个点的一个箭头。这样的有两个方向的数字组合成为二维向量

思考题:你能想象由x,y,z三个数字组成的三维向量的图像含义吗?三维空间两个向量点相加结果,是否也会等于每个方向上的数字相加呢?

梯度《0123数学-向量-梯度-梯度下降》Gradient

回到上节讲到的偏微分图像,如下图。

《0123数学-向量-梯度-梯度下降》

两条绿色短线分别表示A点在x方向上和y方向上的两个切线的斜率值,而红色箭头所指的就是x、y方向上两个斜率值相加的结果。

这个红色箭头意味着什么?
如果整个红橙色兜形曲面表示一个山坳,那么你站在A点,红色箭头就指向你面前最陡峭的山坡方向,相反,你沿着红色箭头反方向前进,就是下坡最快的的方向。

这个红色箭头表示的方向就叫做梯度,它是指各变量方向偏微分导数(斜率)向量之和,用梯度符号《0123数学-向量-梯度-梯度下降》[‘næblə]表示

梯度下降Gradient Descent

继续上面的梯度问题,我们如何快速走到山坳最低点(黑色区域最黑处)?

《0123数学-向量-梯度-梯度下降》

在曲面上任选一个点A,然后我们不断沿着负梯度的方向前进,变化x、y值,一步步下去就可以快速走到山坳。

这种沿着负梯度不断前进,从而找到竖向z值最低点的方法就叫做梯度下降,这是机器学习和神经网络最初算法的数学核心概念。

点击这里进入人工智能DBD嘚吧嘚目录,观看全部文章

每个人的智能新时代

如果您发现文章错误,请不吝留言指正;
如果您觉得有用,请点喜欢;
如果您觉得很有用,欢迎转载~

END

    原文作者:zhyuzh3d
    原文地址: https://www.jianshu.com/p/525b016717d0
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞