标签:
自从2016年初,采用神经网络与深度学习的AlphaGo完胜人类围棋高手后,深度学习也被视为当前最接近人工智能的机器学习方法。
从目前全球人工智能的发展趋势来看,深度学习框架正呈现群雄逐鹿的态势,谷歌、脸书、微软、亚马逊、百度等大企业及少数几家创业公司都推出了自己的产品。相应的,全球名企对深度学习领域的人才也是求贤若渴,不难看出:Deep Learning不仅是新一轮人工智能跨越发展的核心引擎,也是全球科技创新和产业发展的前沿阵地。
然而,虽然深度学习的前景非常光明,但由于较高的学习门槛,很多向往这个领域的初学者都因为以下几个原因卡在了入门期:
1. 两大基本功拦路虎:数学和英语
Deep Learning确实需要一定的数学基础。至少要了解标量、矢量、矩阵和张量,对相关的运算(比如加法、乘法、转置等)比较熟悉,知道特征分解和奇异值分解是怎么回事等等。但对于实用于Deep Learning的数学部分,如果学习资料不是深入浅出地来讲,很多初学者就会有畏难情绪,因而容易过早地放弃。
更痛苦的是,很多关于Deep Learning的讲座、书籍都来自国外,满屏的全英文专业术语常常让初学者望而却步,况且Deep Learning领域的发展速度之快,学会从paper及最近发布的论文中了解前沿的发展情况也是非常有必要的,如果英语基础不好,最好的方法就是找个大咖跟随,学习他已经理解过、咀嚼过的知识,对小白来说会容易消化得多。
2、迷失在海量资料中:
深度学习的资料非常多,但这也成为了深度学习比较大坑的地方,初学者很容易迷失在各种资料当中。深度学习是一个理论与实践相结合的学科,光是找大量的书籍和各种资源是没有意义的,同时看几门课程也很容易产生烦躁厌弃的感觉。所以在选择学习资料时最好全覆盖了理论知识和实践部分,或者一本书讲理论,然后找些代码做实验,当然后一种相对要困难一些;
3、学习路径混乱:
很多Deep Learning的初学者并没有意识到学习路径的重要性,错误的学习路径不仅会让你走很多冤枉路,甚至可能将你的思想格局束缚早早碰到天花板。
一个领域的成功,既要看自身的努力,也要考虑到历史的进程。Deep Learning最简单有效的路径就是跟着历史的进程学习。
从基础的机器学习知识开始,在学习和理解Deep Learning之前,初学者应该至少对于Neural Network和AutoEncoder这两个模型有所了解。下一步才是要理解『简单的增加神经网络深度』会遇到什么问题。比如梯度弥散和梯度爆炸、严重的过拟合等等。要知道这些问题的原因与解决办法,就要映射到神经网络向深度学习的发展过程,比如pre-training、dropout、ReLU等的出现、各种优化算法比如Adam、RMSProp等以及我们现在有能力(计算能力、相对于以前的大数据量)处理深层网络等等。
公众号:maibanzhang
标签: