# observation:[batch_size,num_step,output_dims] 神经网络输出 # transition:[output_dims,output_dims] 转移矩阵 # pi:[batch…
标签:算法
拟牛顿法
用途: 同牛顿法,解f(x)的极值,解决了牛顿法求海瑟矩阵逆慢的问题 限制 f(x)必须是凸(凹)函数,且二阶可导(是否与海瑟矩阵正定等价?) 算法 原理 DFP 用 模拟 BFGS用 模拟 每一次迭代,不需要重新计算矩…
EM算法
适用问题 带有隐变量(无法直接观测的变量)的条件概率 P(Y,Z∣Θ) Y是可观测变量,Z是隐变量, Θ 是模型参数 通过提供 观测变量Y的观测值、Z的取值范围、 P(Y,Z∣Θ) 、 P(Z∣Y,Θ) , 计算出模型参…
牛顿法
用途: 给定函数f(x),输出其极值 约束 : f(x)必须是凸(凹)函数,且二阶可导 优点 二阶收敛,收敛速度比批下降快(因为考虑到了二阶方向,能够在宏观上选择下降速度最快的方向) 缺点 计算黑塞矩阵的逆需要时间过长 …
EM算法的应用--高斯混合模型学习
适用问题 高斯混合模型: P(y∣θ)=∑k=1Kαkϕ(y∣θk) 可以视为由不同模型参数 θk=(μk,σ2k) 构成的不同高斯分布,由不同的权重 αk 来共同决定y的概率。 算法需要输入观测数据 y1,y2....…
自适应中心点个数的K-means java实现
private int minPoint[]; private int belongs[]; public static void main(String[] args) { int times[] = { 10, 11…
隐马尔可夫模型 HMM
适用问题 A:状态转移矩阵 B:观测概率矩阵 π :初始状态概率分布 O:观测序列 模型: λ(A,B,π) 概率计算:通过模型,计算O出现的概率 学习问题:用O,极大似然估计模型的参数A,B, π 预测(解码)问题:给…
感知机
用途: 给定训练数据集,得到能够将数据线性划分的超平面wx+b=0,从而对输入数据进行判别,一般用于二分类问题。 适用范围 仅在线性可分的情况下可行 缺点 没有加入防止过拟合的机制 算法 原始模型 对偶模型 此处可以把内…
线性规划笔记
图解法 将约束条件在座标系中画出,找到围成的图形(可行域),再做目标函数图像,并向值变大的方向移动,直到可行域边界,交点称为最优解 凸集:在点集中任取两点,则其连线仍在其中(即没有凹入的部分;没有空洞)。 ①若LP问题的…
归并排序
#include <iostream> using namespace std ; #include <vector> void merge (vector < int >& …
线索二叉树的线索化的实现以及遍历的实现
线索二叉树:(threaded binary tree):n个结点的二叉链表中含有n+1(2n-(n-1)=n+1)个空指针域。利用二叉链…
CCF Crontab JAVA实现
import java.io.*; import java.util.*; class order{ public LinkedList<String> minutes=new LinkedList<S…