今天看论文的时候又看到了协方差矩阵这个破东西，以前看模式分类的时候就特困扰，没想到现在还是搞不清楚，索性开始查协方差矩阵的资料，恶补之后决定马上记录下来，嘿嘿~本文我将用自认为循序渐进的方式谈谈协方差矩阵。统计学的基本概念学过概率统计的孩子都知道，统计里最基本的概念就是样本的均值，方差，或者再加个标...
分类：
其他好文 时间：
2015-04-30 16:02:12
阅读次数：
138
1.感知机：二类分类的线性模型，输入为实例的特征向量，输出为某类别，取+1和-1.目的在求出将训练数据进行线性划分的分离超平面，导入基于误分类的损失函数，利用梯度下降法对损失函数进行极小化求得感知机模型。2.感知机模型： ，sign为符号函数，w为权值或权向量，b为偏置。 其几何解释：对应一个越.....
分类：
其他好文 时间：
2015-04-29 23:04:34
阅读次数：
186
上一节我们介绍了监督学习的整体框架和基本的要点，按照总分的思考方式，接下来我们要分别介绍相应的一些算法了。今天这节我们来看看贝叶斯定理在机器学习中的应用。本章要点如下：1.贝叶斯定理；2.分类中的贝叶斯定理；3.风险和效用度量；4.关联规则；一、贝叶斯定理贝叶斯定..
分类：
其他好文 时间：
2015-04-28 12:09:28
阅读次数：
187
机器学习是计算机科学和统计学的边缘交叉领域，R关于机器学习的包主要包括以下几个方面： 1）神经网络（Neural Networks）： nnet、AMORE以及neuralnet，nnet提供了最常见的前馈反向传播神经网络算法。AMORE包则更进一步提供了更为丰富的控制参数，并可以增加多个隐...
分类：
其他好文 时间：
2015-04-28 11:32:25
阅读次数：
667
班主任的好帮手：做了一个小工具，可以根据每次考试的班级成绩汇总表获得每个学生历次考试的成绩情况。输入文件为每次考试的班级成绩表（包含每位学生的成绩），输出文件为每个学生历次考试的成绩。本文实现了统计每位学生成绩并输出的功能。...
分类：
其他好文 时间：
2015-04-27 09:58:15
阅读次数：
121
自己总结的机器学习基础算法，和相应的python代码实现，直接上传word和python代码
机器学习算法基础及Python实现
目录
一 机器学习概述...
4
1.1 统计学习...
4
1.2 监督学习...
4
1.3 模型评估与选择...
4
1.4 模型的泛化能力...
5
二 预测算法...
5
1 一元线性回归...
5
1.1 为什么...
分类：
其他好文 时间：
2015-04-25 22:47:56
阅读次数：
187
适用场景：有隐变量的时候特别适用。 EM算法主要分为两个步骤：E步和M步。 输入：选择参数的初值theta，进行迭代。 E步： 每次迭代改变初值。定义Q函数。Q函数为迭代的期望值。 M步： 求使E步得到的Q函数最大的theta值。 最后，重复进行E步和M步。直到最终theta值变化较小...
分类：
编程语言 时间：
2015-04-24 22:26:07
阅读次数：
244
按照时间的早晚从大数据出现之前的时代讲到现在。暂时按一个城市来比喻吧，反正Landscape的意思也大概是”风景“的意思。早在大数据概念出现以前就存在了各种各样的关于数学、统计学、算法、编程语言的研究、讨论和实践。这个时代，算法以及各种数学知识作为建筑的原料(比如钢筋、砖块)，编程语言作为粘合剂(比...
分类：
其他好文 时间：
2015-04-23 01:58:23
阅读次数：
200
准确率和召回率是广泛用于信息检索和统计学分类领域的两个度量值，用来评价结果的质量。其中精度是检索出相关文档数与检索出的文档总数的比率，衡量的是检索系统的查准率；召回率是指检索出的相关文档数和文档库中所有的相关文档数的比率，衡量的是检索系统的查全率。一般来说，Precision就是检索出来的条目（比如...
分类：
其他好文 时间：
2015-04-22 11:04:11
阅读次数：
116
本文讲的主要内容是协方差以及协方差矩阵。
在统计学中，我们见过的最基本的三个概念是均值，方差，标准差。假定给定了n个样本的集合，那么公式如下
均值是描述样本的平均值，标准差描述的是样本集合的各个点到均值距离的平均，体现了样本的散步程度。而方
差仅仅是标准差的平方。
实际上，上述的方差是针对一维数据的情况进行统计描述。考虑这样一种情况：假设我们需...
分类：
其他好文 时间：
2015-04-21 16:15:30
阅读次数：
191
