在诸如
ImageNet Classi fi cation with Deep Convolutional等论文中
神经网络
http://www.cs.toronto.edu/~fritz/absps/imagenet.pdf
训练方法似乎是随机梯度下降的基本反向传播.
即使CNN是深度神经网络的一部分,这纯粹是因为存在大量隐藏层?这是否意味着这里的backprop属于深度学习的范畴,因为网络很深,即使它不像DBN那样使用贪婪的层次训练,一种真正的深度学习技术?
感谢您的帮助和建议.
最佳答案 如果您阅读深度学习的维基百科页面,它说:“深度学习是基于一组算法的机器学习的一个分支,这些算法试图通过使用复杂结构或其他组成的多个处理层来模拟数据中的高级抽象.多个非线性变换“.
CNN具有多层非线性变换,因此有资格作为深度学习模型.
也在麻省理工学院http://www.deeplearningbook.org/的这本书中
CNN也是深度学习模型的一部分.
在DBN和CNN之间存在一个重要的区别,第一个是无监督模型,另一个不是,除了一个使用DBN进行预初始化.
如果您阅读的是同时也是深度学习模型的RNN或LSTM,您会发现它们基本上都是使用经过时间反向传播的反向传播的修改版本进行训练.
因此,请记住数据中模型高级抽象的多个非线性转换的概念.
深度学习也指不参加培训的模型.