因为要看LDA的内容,需要看下EM算法,李航的EM算法一章的部分地方符号感觉过于抽象,应该具体些更好;先时通过三硬币模型引入EM算法概念,然后说了一下EM算法的流程,第二节公式推导了EM算法,第三节证明了EM算法的收敛性,随后讲了EM算法在GMM中的应用,最后介绍了GMM算法。总体来说EM基本思想还是很简单的,基于最大化似然函数一步步得到。
这篇博客简洁明了的介绍了EM算法原理,包括推导和收敛性的证明。
与上篇类似,不过是11年写的,年代有点久远。
https://www.zhihu.com/question/27976634
https://freesouls.github.io/2016/03/28/em-algorithm/index.html
http://blog.tomtung.com/2011/10/em-algorithm/
http://www.csuldw.com/2015/12/02/2015-12-02-EM-algorithms/
https://chenrudan.github.io/blog/2015/12/02/emexample.html
http://blog.csdn.net/zouxy09/article/details/8537620
这几篇差不多,都可以对比参照看看。
深入一些的有:
https://mp.weixin.qq.com/s/NbM4sY93kaG5qshzgZzZIQ
https://www.zhihu.com/question/22371861
http://survivor99.com/lcg/CM/cm-ljs.pdf
https://zhuanlan.zhihu.com/p/25799397