深度学习非凸优化的特点

经过最近三年学者们的研究,我们现在可以得到一个结论。

  1. 深度模型中不存在局部最小

这个结论可以用来解释为什么使用简单的动量法就可以训练出来模型。

何为深度

深度 > 3 的就可以称之为深度模型

REF

  1. 论文链接1
  2. 论文链接2
    原文作者:cptn3m0
    原文地址: https://www.jianshu.com/p/bf3112c8e0a5
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞