自动编码器

由于工作需要详细学习了autoencoder自动编码器，写此文章做下记录，其中内容大多不是原创，只做了汇总和总结。

autoencoder是一种无监督的学习算法，他利用反向传播算法，让目标值等于输入值。
换句话说，它尝试逼近一个恒等函数，从而使得输出 \textstyle \hat{x} 接近于输入 \textstyle x 。恒等函数虽然看上去不太有学习的意义，但是当我们为自编码神经网络加入某些限制，比如限定隐藏神经元的数量，我们就可以从输入数据中发现一些有趣的结构。