一、目前国内的数据挖掘人员工作领域大致可分为三类。
· 1)数据分析师:在拥有行业数据的电商、金融、电信、咨询等行业里做业务咨询,商务智能,出分析报告。
· 2)数据挖掘工程师:在多媒体、电商、搜索、社交等大数据相关行业里做机器学习算法实现和分析。
· 3)科学研究方向:在高校、科研单位、企业研究院等高大上科研机构研究新算法效率改进及未来应用。
二、说说各工作领域需要掌握的技能。
(1).数据分析师
· 需要有深厚的数理统计基础,但是对程序开发能力不做要求。
· 需要熟练使用主流的数据挖掘(或统计分析)工具如BusinessAnalytics and Business Intelligence Software(SAS)、SPSS、EXCEL等。
· 需要对与所在行业有关的一切核心数据有深入的理解,以及一定的数据敏感性培养。
· 经典图书推荐:《概率论与数理统计》、《统计学》推荐David Freedman版、《业务建模与数据挖掘》、《数据挖掘导论》、《SAS编程与数据挖掘商业案例》、《Clementine数据挖掘方法及应用》、《Excel 2007 VBA参考大全》、《IBM SPSS Statistics 19 Statistical Procedures Companion》等。
(2).数据挖掘工程师
· 需要理解主流机器学习算法的原理和应用。
· 需要熟悉至少一门编程语言如(Python、C、C++、Java、Delphi等)。
· 需要理解数据库原理,能够熟练操作至少一种数据库(Mysql、SQL、DB2、Oracle等),能够明白MapReduce的原理操作以及熟练使用Hadoop系列工具更好。
· 经典图书推荐:《数据挖掘概念与技术》、《机器学习实战》、《人工智能及其应用》、《数据库系统概论》、《算法导论》、《Web数据挖掘》、《 Python标准库》、《thinking in Java》、《Thinking in C++》、《数据结构》等。
(3).科学研究方向
· 需要深入学习数据挖掘的理论基础,包括关联规则挖掘(Apriori和FPTree)、分类算法(C4.5、KNN、Logistic Regression、SVM等) 、聚类算法(Kmeans、Spectral Clustering)。目标可以先吃透数据挖掘10大算法各自的使用情况和优缺点。
· 相对SAS、SPSS来说R语言更适合科研人员The R Projectfor Statistical Computing,因为R软件是完全免费的,而且开放的社区环境提供多种附加工具包支持,更适合进行统计计算分析研究。虽然目前在国内流行度不高,但是强烈推荐。
· 可以尝试改进一些主流算法使其更加快速高效,例如实现Hadoop平台下的SVM云算法调用平台–web 工程调用hadoop集群。
· 需要广而深的阅读世界著名会议论文跟踪热点技术。如KDD,ICML,IJCAI,Associationfor the Advancement of Artificial Intelligence,ICDM 等等;还有数据挖掘相关领域期刊:ACM Transactionson Knowledge Discovery from Data,IEEETransactions on Knowledge and Data Engineering,Journal of Machine Learning Research Homepage,IEEE Xplore: Pattern Analysis and MachineIntelligence, IEEE Transactions on等。
· 可以尝试参加数据挖掘比赛培养全方面解决实际问题的能力。如SigKDD ,Kaggle: Go fromBig Data to Big Analytics等。
· 可以尝试为一些开源项目贡献自己的代码,比如ApacheMahout: Scalable machine learning and data mining ,myrrix等(具体可以在SourceForge或GitHub.上发现更多好玩的项目)。
· 经典图书推荐:《机器学习》《模式分类》《统计学习理论的本质》《统计学习方法》《数据挖掘实用机器学习技术》《R语言实践》,英文素质是科研人才必备的《Machine Learning: A ProbabilisticPerspective》《Scaling up Machine Learning : Parallel andDistributed Approaches》《Data Mining Using SAS Enterprise Miner :A Case Study Approach》《Python for Data Analysis》等。