Github原址

2021-01-17

机器学习Machine-Learning

主要内容

我们要求把这些课程的所有Notes,Slides以及作者强烈推荐的论文看懂看明白，并完成所有的老师布置的习题，而推荐的书籍是不做要求的，如果有些书籍是需要看完的，我们会进行额外的说明。

课程列表

课程	机构	参考书
单变量微积分	MIT	Calculus with Analytic Geometry
多变量微积分	MIT	Multivariable Calculus
线性代数	MIT	Introduction to Linear Algebra
统计入门	可汗学院	暂无
概率论入门注: 链接失效,推荐葉丙成的概率课	NTU	暂无
概率与统计	MIT	Introduction to Probability
矩阵论	暂无	矩阵论
凸优化1	Stanford	Convex Optimization
凸优化2	Stanford	暂无
统计学习入门	Stanford	An Introduction to Statistical Learning
机器学习基石	NTU	Learning from Data
机器学习技法	NTU	暂无
机器学习	Caltech	Learning from Data
机器学习(matlab)	Stanford	暂无
Python程序语言设计	暂无	暂无
Matlab程序语言设计	暂无	暂无

推荐学习路线

数学基础初级

课程	机构	参考书
单变量微积分	MIT	Calculus with Analytic Geometry
多变量微积分	MIT	Multivariable Calculus
线性代数	MIT	Introduction to Linear Algebra
统计入门	可汗学院	暂无
概率论入门注: 链接失效,推荐葉丙成的概率课	NTU	暂无
概率与统计	MIT	Introduction to Probability

程序语言能力

考虑到机器学习的核心是里面的数学原理和算法思想，程序语言目前主要是帮助大家较好的完成课后作业以及实现自己的一些idea，此处我们仅仅给出推荐的参考学习链接，大家掌握一些常用的模块即可，即完成参考学习链接部分的内容即可，推荐书籍比较经典，但不做要求。

课程	参考学习链接	推荐书籍
Python程序语言设计	链接	暂无
Matlab程序语言设计	暂无	暂无
R程序语言设计	暂无	暂无

机器学习课程初级

课程	机构	参考书
统计学习入门	Stanford	An Introduction to Statistical Learning
机器学习入门	Coursera	暂无

数学基础中级

课程	机构	参考书
矩阵论	暂无	矩阵论
凸优化1	Stanford	Convex Optimization
凸优化2	Stanford	暂无

下面这个概述必须看完。

• Convex Optimization: Algorithms and Complexity

1405.4980.pdf

机器学习课程中级

此处NTU和Caltech两个大学的课程是由《Learning from Data》一书的两个不同的作者讲的，所以仅仅只需选择一个完成即可，注意：如果选择完成NTU的机器学习课程，则NTU的“机器学习基石”和“机器学习技法”需同时完成。。

课程	机构	参考书
机器学习基石	NTU	Learning from Data
机器学习技法	NTU	暂无
机器学习	Stanford	暂无
机器学习	Caltech	Learning from Data

推荐书籍列表

以下推荐的书籍都是公认的机器学习领域界的好书，建议一般难度的书籍至少详细阅读一本，建议看两本，而较难的书籍不做任何要求，大家可以在学有余力时细细品味经典。

书名	难度
统计学习方法	一般
An Introduction to Statistical Learning	一般
Machine Learning	一般
Learning from Data	一般，配套讲义
Pattern Recognition and Machine Learning	较难(偏贝叶斯)
The Elements of Statistical Learning	较难
Understanding Machine Learning:From Theory to Algorithms	较难
Machine Learning: A probabilistic approach	较难

机器学习专项领域学习

如果您已经完成了上述的所有科目，恭喜您已经拥有十分扎实的机器学习基础了，已经是一名合格的机器学习成员了，可以较为顺利的进入下面某一专项领域进行较为深入研究,因为并不是所有的专项领域都有对应的课程或者书籍等学习资料，所以此处我们仅列举一些我们知道的专项领域的学习资料，当然这些领域不能涵盖所有，还有很多领域没有整理（希望大家一起完善），如果这些领域适合你，那就继续加油！如果不清楚，那么大家可以去下面列举的高级会议期刊上去寻找自己感兴趣的话题进行学习研究。

一些专项领域资料

• 深度学习
• 图模型
• 强化学习
• Hash
• 理论机器学习
• 其他(尚未完善)

领域会议期刊

• NIPS
• ICML
• AAAI
• IJCAI
• KDD
• ICDM
• COLT
• 其他(尚未完善)

致谢

感谢南京大学LAMDA实验组杨杨博士的建议与资料的分享。

Deep Learning＼深度学习

课程列表

课程	机构	参考书
CS 231N 卷积神经网络视觉识别	Stanford	暂无
神经网络	Tweet	暂无
CS 224D 深度学习用于自然语言处理	Stanford	暂无
自然语言处理		Speech and Language Processing

2017年后 CS 224D + CS 224N -> CS 224N

专项课程学习

下述的课程都是公认的最好的在线学习资料，侧重点不同，但推荐至少修满下面课程中的任意两门，其中，辅助课程可以根据自己情况来定是否需要学习，建议直接进入下列的课程学习，如果感觉需要需要帮助，可以再进入辅助课程区寻找相应资料进行学习：

《卷积神经网络用于视觉识别》偏重于用于视觉方面的卷积神经网络的介绍,有时会需要一些基本的图像处理的知识；

《神经网络》专注于神经网络知识，会涉及很多不同的神经网络的介绍；

《深度学习用于自然语言处理》侧重于将深度学习用于自然语言的处理，较多的会用到递归神经网络,需要一些基本的文本处理知识;

课程	机构	参考书	辅助课程
CS 231N 卷积神经网络视觉识别	Stanford	暂无	无
神经网络	Tweet		无
CS 224D 深度学习用于自然语言处理	Stanford	暂无	自然语言处理

辅助课程

课程	机构	参考书
自然语言处理		Speech and Language Processing

论文专区

恭喜您坚持到了现在，现在您已经拥有了扎实的数学功底，同时经过这么多的练习，也已经掌握了深度学习中的较为经典甚至一些较为前沿的技术，接下来如果您希望继续深造并成为大师并对该领域做出突破贡献，我们唯一能为您提供的就是下面的论文平台，它汇总了最经典的领域论文，领域开源包等等丰富资源，同时会不断更新最新的进展，希望对您有帮助，补充一句：我们强烈建议您进入高校或者其他研究所进行深造，因为现在您当前的基础已经完全可以支撑您进行进一步研究，如果有好的导师引路，加之努力，将来定会成为大师，希望继续加油！。

• 深度学习平台

Theoretical Machine Learning＼理论机器学习

课程列表

机器学习理论需要非常扎实的数学基础，包括优化，概率，分析等等，这边我们只列出机器学习理论的课程，由简到难，不同的课程中间会有一些重复交叉的内容，希望大家坚持下来。

如果大家认为有什么数学是必备的，可以告知我们，我们会补充在这一专栏，帮助大家更好的学习。

Hebrew的机器学习理解这门课程的视频非中英文，但是因为作者是参考书的作者，而且他的slides也不错，如果我们有能力了定会尽量实现翻译，目前大家将就看一下原版即可。

课程	机构	参考书	Notes等其他资料
机器学习在线方法	MIT	暂无	链接
机器学习理解	Hebrew	Understanding Machine Learning: From Theory to Algorithms	链接
机器学习理论基础	CMU	An Introduction to Computational Learning Theory	链接
理论机器学习	Princeton	暂无	链接

MIT 6.883 除了6.883: Online Methods in Machine Learning Theory and Applications有好几个课程名

• 6.883 Meta Learning
• 6.883 Pervasive Human-Centric & Mobile Computing
• 6.883/6.S083) Modeling with machine learning: from algorithms to applications6.883/6.S083) Modeling with machine learning: from algorithms to applications

专项课程学习1

课程	机构	参考书	Notes等其他资料
机器学习在线方法	MIT	暂无	链接
机器学习理解	Hebrew	Understanding Machine Learning: From Theory to Algorithms	链接
机器学习理论基础	CMU	An Introduction to Computational Learning Theory	链接

专项课程学习2

课程	机构	参考书	Notes等其他资料
理论机器学习	Princeton	暂无	链接

推荐书籍

书籍	要求
(draft) Introduction to Online Convex Optimization, by E. Hazan	要求
An Introduction To Computational Learning Theory, by M.J. Kearns and U. Vazirani	要求
Understanding Machine Learning: From Theory to Algorithms, by Shai Shalev-Shwartz and Shai Ben-David	要求
Introductory Lectures on Convex Optimization Introductory Lectures on Convex Optimization	不做要求
Prediction, Learning and Games, by N. Cesa-Bianchi and G. Lugosi	不做要求
Boosting: Foundations and Algorithms, by R. E. Schapire and Y. Freund	不做要求
Foundations of Machine Learning, by Mehryar Mohri, Afshin Rostamizadeh, and Ameet Talwalkar	不做要求

其他

恭喜您坚持到了现在，现在您已经拥有了扎实的机器学习理论功底，同时经过这么多的练习，也已经掌握了理论及其学习中的较为经典甚至一些较为前沿的技术，接下来如果您希望继续深造并成为大师并对该领域做出突破贡献，我们强烈建议您进入高校或者其他研究所进行深造，因为现在您当前的基础已经完全可以支撑您进行进一步研究，如果有好的导师引路，加之努力，将来定会成为大师，希望继续加油！。

• 一些其他的课程(都采用了Understanding Machine Learning: From Theory to Algorithms这本书)
• 其他(希望大家补充)

Reinforcement Learning

课程列表

课程	机构	参考书	Notes等其他资料
MDP和RL介绍891011	Berkeley	暂无	链接
MDP简介	暂无	Shaping and policy search in Reinforcement learning	链接
强化学习	UCL	An Introduction to Reinforcement Learning	链接
强化学习(偏Java)	Udacity	暂无	链接
深度强化学习	Berkeley	Algorithms for Reinforcement Learning	链接

基础知识

在完成了前面的机器学习课程后，我们已经拥有了较好的机器学习基础知识，这边我们给出的强化学习的基础知识可能可能前面也有涉及，主要帮助大家回顾以及更快的进入强化学习的后续课程部分，关于Berkeley的人工智能，我们仅仅只需要完成第8,9,10,11这四章内容即可，希望大家把这些基础知识扎实的学好。

课程	机构	参考书	Notes等其他资料
MDP简介	暂无	Shaping and policy search in Reinforcement learning	链接
人工智能891011	Berkeley	暂无	链接

专项课程学习

深度强化学习课程可能会涉及一些神经网络的知识，如果有必要的话可以去深度学习一章寻找相应的资料进行学习。

课程	机构	参考书	Notes等其他资料
强化学习	UCL	An Introduction to Reinforcement Learning	链接
强化学习(偏Java)	Udacity	暂无	链接
深度强化学习	Berkeley	Algorithms for Reinforcement Learning	链接

参考书籍

以下推荐的书籍都是公认的强化学习领域界的好书，建议这些书籍必须至少详细阅读一本(建议第一本)，而较难的书籍不做任何要求，大家可以在学有余力时细细品味经典。

书名	链接
An Introduction to Reinforcement Learning(2nd edition)	链接
Algorithms for Reinforcement Learning	链接
Decision Making Under Uncertainty: Theory and Application	链接

论文专区

恭喜您坚持到了现在，现在您已经拥有了扎实的数学功底，同时经过这么多的练习，也已经掌握了强化学习中的较为经典甚至一些较为前沿的技术，接下来如果您希望继续深造并成为大师并对该领域做出突破贡献，我们唯一能为您提供的就是下面的学习平台，它汇总了最经典的领域论文，领域开源包以及很多丰富的资源，同时会不断更新最新的进展，希望对您有帮助，补充一句：我们强烈建议您进入高校或者其他研究所进行深造，因为现在您当前的基础已经完全可以支撑您进行进一步研究，如果有好的导师引路，加之努力，将来定会成为大师，希望继续加油！。

• 强化学习平台
• 强化学习参考资料1
• 强化学习参考资料2 主要关注链接中的关于强化学习的内容即可
• [其他，希望大家一起补充]

Probabilistic Graphical Models

课程列表

和之前的一样，此处我们建议把Notes部分内容全部学完，并且能较好的理解并完成相应网站的学习作业，关于参考书此处同样不做要求。

课程	机构	参考书	Notes等其他资料
概率图模型	Stanford	Probabilistic Graphical Models: Principles and Techniques	链接
概率图模型(高级方法)	Stanford	Machine Learning: a Probabilistic Perspective	链接

专项课程学习路线

课程	机构	参考书	Notes等其他资料
概率图模型	Stanford	Probabilistic Graphical Models: Principles and Techniques	链接
概率图模型(高级方法)	Stanford	Machine Learning: a Probabilistic Perspective	链接

进阶书籍

下列书籍是领域公认的较好的学习书籍列表，至少需要完成一本书籍的阅读，方可进入之后的论文专区。

课程 | 作者 | 难度 :-- | :--: | :--: | :--: Graphical models, exponential families, and variational inference| Martin J. Wainwright and Michael I. Jordan. | 较难 Modeling and Reasoning with Bayesian networks| Adnan Darwiche | 较难 Machine Learning: a Probabilistic Perspective|Kevin P. Murphy | 较难 Information Theory, Inference, and Learning Algorithms| David J. C. Mackay. |较难 Bayesian Reasoning and Machine Learning| David Barber | 较难

论文专区

恭喜您坚持到了现在，现在您已经拥有了扎实的数学功底，同时经过这么多的练习，也已经掌握了概率图模型学习中的较为经典甚至一些较为前沿的技术，接下来如果您希望继续深造并成为大师并对该领域做出突破贡献，我们唯一能为您提供的就是下面的论文平台，它汇总了最经典的领域论文，领域开源包等等丰富资源，同时会不断更新最新的进展，希望对您有帮助，补充一句：我们强烈建议您进入高校或者其他研究所进行深造，因为现在您当前的基础已经完全可以支撑您进行进一步研究，如果有好的导师引路，加之努力，将来定会成为大师，希望继续加油！。

• [尚未完善，希望大家提供较好的学习资料]

评论