《机器学习》

课程名称（中文）:机器学习

课程名称（英文）：Machine Learning

课程编码：        总课时：36        学分:  2

授课语言： 中文

开课院系： 计算机科学与技术学院

适用专业:  计算机应用技术，软件工程，教育学，心理学

先修课程:  高等数学、线性代数、概率论与数理统计、程序设计

授课教师： 金博

课程简介（中文）:

本课程面向研究所，系统性地介绍机器学习的基本思想和主要算法的设计思想。课程将讲解机器学习的一般理论，介绍线性模型、神经网络、支持向量机、贝叶斯分类器、无监督模型、回归、聚类和分类等模型，并结合案例进行讲解，通过布置课堂作业与项目提高学生应用所学知识的能力。

课程简介（英文）：

 This course is for senior undergraduates to systematically learn the basic idea of machine learning and the design method of typical algorithms. It will explain the general theory of machine learning, by introducing the linear model, neural network, support vector machine, Bayesian classifier, unsupervised model, regression, clustering and classification model, etc. The course will also introduce many machine learning applications. Through the arrangement of homework and projects, this course will both extend the knowledge and improve the practical ability.

教学目标与要求:

通过对该课程的学习，使学生理解机器学习领域的理论，掌握机器学习的主流算法，并通过在真实数据上的应用，加深对各种算法的了解，能应用大数据分析方法解决实践中遇到的问题。

教学安排（课程内容、学时、教学方式）：

 1．背景知识（2学时）

 1.1引言

 1.2发展历程与现状

 1.3数学基础

 2．模型评估与选择（2学时）

 2.1经验误差与过拟合

 2.2评估方法

 2.3性能度量

 2.4比较检验

 2.5偏差与方差

 3．线性模型（2学时）

 3.1线性回归

 3.2对数几率回归

 3.3线性判别分析

 3.4多分类学习

 3.5类别不平衡问题

 4．决策树（2学时）

 4.1基本流程

 4.2剪枝处理

 4.3连续与缺失值

 4.4多变量决策树

 5．神经网络（4学时）

 5.1神经元模型

 5.2感知机与多层网络

 5.3误差逆传播算法

 5.4常见神经网络

 5.5深度学习

 6．支持向量机（2学时）

 6.1间隔与支持向量

 6.2对偶问题

 6.3核函数

 6.4支持向量回归

 6.5核方法

 7．贝叶斯分类器（2学时）

 7.1贝叶斯决策论

 7.2极大似然估计

 7.3朴素贝叶斯分类器

 7.4半朴素贝叶斯分类器

 7.5贝叶斯网络

 8．集成学习（2学时）

 8.1个体与集成

 8.2 Boosting

 8.3 Bagging与随机森林

 8.4结合策略

 8.5多样性

 9．聚类（2学时）

 9.1聚类任务

 9.2距离计算

 9.3原型聚类

 9.4密度聚类

 9.5层次聚类

 10．降维与度量学习（2学时）

 10.1 k近邻学习

 10.2低维嵌入

 10.3主成分分析

 10.4核化线性降维

 10.5流形学习

 10.6度量学习

 11．特征选择与稀疏学习（2学时）

 11.1子集搜索与评价

 11.2嵌入式选择与正则化

 11.3稀疏表示与字典学习

 11.4压缩感知

 12．计算学习理论（2学时）

 12.1基础知识

 12.2 PAC学习

 12.3有限假设空间

 12.4 VC维

 12.5 Rademacher复杂度

 12.6稳定性

 13．半监督学习（2学时）

 13.1未标记样本

 13.2生成式方法

 13.3半监督SVM

 13.4图半监督学习

 13.5半监督聚类

 14．概率图模型（2学时）

 14.1隐马尔可夫模型

 14.2马尔可夫随机场

 14.3条件随机场

 14.4学习与推断

 14.5话题模型

 15．规则学习（2学时）

 15.1基本概念

 15.2序贯覆盖

 15.3剪枝优化

 15.4一阶规则学习

 15.5归纳逻辑程序设计

 16．强化学习（2学时）

 16.1任务与奖赏

 16.2摇臂赌博机

 16.3有模型学习

 16.4策略评估

考核方式:

Project与小论文100%

教材或参考资料 ：

（一）教材

 1．Chris Bishop. Pattern recognition and machine learning, 2006年.

 2．周志华，机器学习，清华大学出版社，2016年.

 3．阿培丁，机器学习导论，机械工业出版社，2014年.

（二）参考资料

 1．迪达等，模式分类（第2版），机械工业出版社，2003年.

 2．Trevor Hastie等，统计学习基础，世界图书出版公司.

 3．李航，统计学习方法，清华大学出版社，2012年.

 4．王星等编著，大数据分析：方法与应用，清华大学出版社，2013年.

 5．Kevin Murphy， Machine learning: a probabilistic perspective, MIT press, 2012.

大纲撰写人:

金博