这次作业的coding任务量比较大，总的来说需要实现neural network, knn, kmeans三种模型。Q11~Q14为Neural Network的题目，我用单线程实现的，运行的时间比较长，因此把这几道题的正确答案记录如下：Q11: 6Q12: 0.001Q13: 0.01Q14: 0...
分类：
其他好文 时间：
2015-08-17 21:14:57
阅读次数：
274
在NNet这个系列中讲了Matrix Factorization感觉上怪怪的，但是听完第一小节课程就明白了。林首先介绍了机器学习里面比较困难的一种问题：categorical features这种问题的特征就是一些ID编号这类的，不是numerical的。如果要处理这种情况，需要encoding f...
分类：
其他好文 时间：
2015-08-15 00:04:34
阅读次数：
319
这节课的题目是Deep learning，个人以为说的跟Deep learning比较浅，跟autoencoder和PCA这块内容比较紧密。林介绍了deep learning近年来受到了很大的关注：deep NNet概念很早就有，只是受限于硬件的计算能力和参数学习方法。近年来深度学习长足进步的原因有...
分类：
其他好文 时间：
2015-08-13 17:46:14
阅读次数：
155
下面对查阅学习机器学习、深度学习过程中搜集到的一些比较好的资料整理如下，与大家分享，如果有朋友有更好的资料，也请告诉我，谢谢大家课程资料coursera上的台大《机器学习技法》真的很不错啊！
分类：
其他好文 时间：
2015-08-10 21:52:27
阅读次数：
110
这次关注的作业题目是Q13~Q20，主要是实现basic C&RT分类树，以及由其构成的Random Forest。其中basic C&RT分类树的实现思路如下：（一）先抽象出来几个功能：1）从local file读数据并转化成numpy.array的形式（考虑空行容错）（defread_input...
分类：
其他好文 时间：
2015-08-10 01:50:19
阅读次数：
367
首先从单层神经网络开始介绍最简单的单层神经网络可以看成是多个Perception的线性组合，这种简单的组合可以达到一些复杂的boundary。比如，最简单的逻辑运算AND OR NOT都可以由多个perception构成的单层神经网络模拟。但是，单层感知器神经网络能力再强也是有限的，有些逻辑也无法完...
分类：
Web程序 时间：
2015-08-08 11:55:07
阅读次数：
855
很多ML模型用的都是数值特征，那么对于分类特征，该怎么做呢？ 以linear network为例：先对特征进行转换，转换成有意义的特征后，再对其进行线性组合 进一步，模型可表示为：使Ein最小，我们就能知道如何转换特征，如何组合线性模型。 以给电影打分为例，我们实际上要做的，就是...
分类：
其他好文 时间：
2015-08-07 17:57:04
阅读次数：
453
将Radial Basis Function与Network相结合。实际上衡量两个点的相似性：距离越近，值越大。 将神经元换为与距离有关的函数，就是RBF Network： 可以用kernel和RBF来衡量相似性： 那么...
分类：
Web程序 时间：
2015-08-06 16:28:58
阅读次数：
702
深度学习面临的问题和现在解决的办法： 简要来说，分两步使用DL：初始化时一层一层的选择权重，而后再进行训练： 那么怎么做pre-training，即怎么选择权重呢？好的权重能够不改变原有资料的信息，即编码过后信息够解码过后仍能保持 ...
分类：
其他好文 时间：
2015-08-05 21:48:42
阅读次数：
162
由perceptron线性组成的一个神经网络： 通过赋予g不同的权值，来实现不同的切分功能： 但有的切分只通过一次特征转换是不够的，需要多次转换，如下：Neural Network Hypothesis：为了便于优化，将sign（离散）变成tanh，这个函数相当于regression的拉伸与...
分类：
Web程序 时间：
2015-08-04 18:54:47
阅读次数：
162
