一、机器学习
基础
理解 Bias 与 Variance 之间的权衡
//var是不同训练模型之间的差别,好比K-fold之中,如果不同模型之间差别很大(var大),也就是说他们都和自己的训练集与其他训练集不接近,所以,不同模型之间var很大->他们就都不是truth;而如果bias很大,不用细讲,那他们更不是truth
PR曲线、ROC曲线和AUC
详解最大似然估计(MLE)、最大后验概率估计(MAP),以及贝叶斯公式的理解
//MLE隐含了参数取任何值的概率都一样,而MAP则考虑到了参数取不同值的概率是有差别的,有些值更容易取到,有些值不容易取到。比如扔十次硬币,十次都是正,那MLE估计得结果就是正的概率为1,但大家知道这明显不可能,所以要用到先验概率,就是上面所说,我们预先知道了取1几乎不可能
判别模型(Discriminative model)和生成模型(Generative model)
常见的几种最优化方法(梯度下降法、牛顿法、拟牛顿法、共轭梯度法等)
数值优化(Numerical Optimization)学习系列-线搜索方法(LineSearch)
Logistics
Softmax
SVM
SMO优化算法(Sequential minimal optimization)
深入理解拉格朗日乘子法(Lagrange Multiplier) 和KKT条件
K-Means
贝叶斯方法
算法杂货铺——分类算法之朴素贝叶斯分类(Naive Bayesian classification)
决策树
频繁模式
主成分分析
机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用
特征降维-PCA(Principal Component Analysis)
主成分分析(Principal components analysis)-最大方差解释
图论与社交网络
EM算法
EM算法(Expectation Maximization Algorithm)详解
感知机
反向传播算法
A Step by Step Backpropagation Example
AutoEncoder
玻尔兹曼机
深度信念网络
增强学习基础
强化学习(Reinforcement Learning, RL)初步介绍
Deep Reinforcement Learning 基础知识
增强学习Reinforcement Learning经典算法梳理1:policy and value iteration
多臂赌博机
综合
二、系统的教程
Build Intelligent Applications
集体智慧编程
机器学习实战