机器学习笔记(一)

名词解释

ILP：Inductive Logic Programming的简称，即归纳逻辑程序设计。

发展历程

n  二十世纪五十年代初，出现机器学习的相关研究

n  二十世纪五十年代中期， 基于神经网络的“连接主义学习开始出现

n  在二十世纪六七十年代，基于逻辑表示的“符号主义”学习技术蓬勃发展。

n  二十世纪五十年代 到七十年代初， 人工智能 处于“推理期”为只要能赋予机器逻辑推理能力，机器就能具有智能。

n  二十世纪七十年代中期，人工智能进入“知识期”，大量专家系统问世。但渐渐意识到面临“知识功能瓶颈”

n  二十世纪八十年代，机器学习成为一个独立的学科领域，各种机器学习技术百花绽放。机器学习作为“解决知识工程瓶颈问题的关键”而走上人工智能的主舞台。

n  二十世纪九十年代中期之前，“从样例中学习”的另一个主流技术：基于神经网络的连接主义学习得到重视

n  二十世纪九十年代中期，“统计学习”闪亮登场，迅速占领主流舞台。

n  二十一世纪初，连接主义学习卷土重来，掀起了以深度学习为名的热潮。原因是数据大了，计算能力强了。

相关材料推荐

1)         第一本机器学习专业期刊：Machine Learning

2)         人工智能领域的权威期刊：Artificial  Intelligence

3)         第一本机器学习专门性教材：Mitchell, 1997

4)         出色的入门读物：Duda et al.,2001;  Alpaydin, 2004;  Flach, 2012; 

5)         进阶读物：Hastie et al. , 2009;

6)         适合贝叶斯学习偏爱者：Bishop, 2006

7)         基于WEKA撰写的入门读物，有助于初学者通过WEKA实践快速掌握常用的机器学习算法：Witten et al.,2011

8)         国际机器学习会议：ICML

9)         国际神经信息处理系统会议:NIPS

10)     国际学习理论会议：COLT

11)     国际学术期刊Journal of Machine Learning Research 和 Machine Learning

12)     人工智能领域的重要会议：IJCAI, AAAI

13)     人工智能领域重要期刊：Artifical Intelligence;  Journal of Artifical Intelligence Research

14)     数据挖掘领域重要会议：KDD, ICDM

15)     数据挖掘领域重要期刊：ACM Transactions on Knowledge Discovery from Data;  Data Mining and Knowledge Discovery

16)     计算机视觉和模式识别领域的重要会议：CVPR

17)     计算机视觉与模式识别领域的重要期刊：IEEE Transactions on Pattern  Analysis and Machine Intelligence

18)     神经网络领域的重要期刊：Neural Computation, IEEE Transactions on Neural Networks and Learning System

19)     统计学领域的重要期刊：Annals of Statistics

20)     中国机器学习大会：CCML

21)     中国“机器学习及其应用”研讨会：MLA