机器学习，分为监督学习和无监督学习，监督学习里有回归和分类，分类有线性回归和逻辑回归。 从最简单的线性回归开始： 通过已有数据需要预测的线性方程： 实际值和预测值的误差，求最小误差函数（最小二乘法）： 1.梯度下降法： 其中ε是步长，步长越大，下降越快，但是可能到不了局部最小值，步长越小，下降越慢， ...
分类：
其他好文 时间：
2017-09-01 00:59:55
阅读次数：
592
前言 以下内容是个人学习之后的感悟，转载请注明出处~ 简介 在之前发表的线性回归、逻辑回归、神经网络、SVM支持向量机等算法都是监督学习算法，需要样本进行训练，且 样本的类别是知道的。接下来要介绍的是非监督学习算法，其样本的类别是未知的。非监督学习算法中，比较有代表性 的就是聚类算法。而聚类算法中， ...
分类：
编程语言 时间：
2017-08-30 15:51:24
阅读次数：
377
引入 监督学习的任务就是学习一个模型（或者得到一个目标函数）,应用这一模型，对给定的输入预测相应的输出。这一模型的一般形式为一个决策函数Y=f(X)，或者条件概率分布P(Y|X)。监督学习方法又可以分为生成方法(generative approach)和判别方法(discriminative app ...
分类：
其他好文 时间：
2017-08-30 00:49:22
阅读次数：
95
前言 以下内容是个人学习之后的感悟，如果有错误之处，还请多多包涵~ 正则化 一、过拟合 过拟合是一种现象。当我们提高在训练数据上的表现时，在测试数据上反而下降，这就被称为过拟合，或过配。过拟合发生 的本质原因，是由于监督学习问题的不适定：在高中数学我们知道，从n个（线性无关）方程可以解n个变量，解n ...
分类：
其他好文 时间：
2017-08-26 21:31:34
阅读次数：
220
前言 以下内容是个人学习之后的感悟，如果有错误之处，还请多多包涵~ 简介 回归属于有监督学习中的一种方法。该方法的核心思想是从连续型统计数据中得到数学模型，然后将该数学模型用于 预测或者分类。该方法处理的数据可以是多维的。 一、线性回归 原理： 在连续型统计数据情况下，选取大量的样本数据，如下图中的 ...
分类：
其他好文 时间：
2017-08-26 12:50:37
阅读次数：
129
<p></p><p><span style="font-size:18px">上几篇博客都是分析的分类器算法（有监督学习），这次就分析一个聚类算法（无监督学习）。</span></p><p><span style="font-size:18px"></span></p><p><span style= ...
分类：
编程语言 时间：
2017-08-20 14:55:10
阅读次数：
233
Spark中定义的损失函数及梯度，在看源代码之前，先回想一下机器学习中定义了哪些损失函数，毕竟梯度求解是为优化求解损失函数服务的。监督学习问题是在如果空间F中选取模型f作为决策函数。对于给定的输入X，由f(X)给出对应的输出Y,这个输出的预測值f(X)与真实值Y可能一致也可能不一致，用一个损失函数( ...
分类：
编程语言 时间：
2017-08-17 12:55:56
阅读次数：
315
概念 1、监督学习：从给定标注的训练数据中学习出一个函数，根据这个函数为新数据进行标注。 2、无监督学习：从给定无标注的训练数据中学习出一个函数，根据这个函数为所有数据标注。 KNN分类算法：通过对已知类别训练数据集的分析，从中发现分类规则，以此预测新数据的类别，分类算法属于监督学习的类型。 KNN ...
分类：
编程语言 时间：
2017-08-17 00:30:20
阅读次数：
270
经典无监督学习 聚类 K均值 PCA主成分分析 等 深度学习下的无监督学习 自编码器 传统的基于特征学习的自编码器 变种的生成式自编码器 Gen网络（对抗式生成网络） 传统的基于特征学习的自编码器 变种的生成式自编码器 传统自编码器 原理 类似于一个自学习式PCA，如果编码/解码器只是单层线性的话 ...
分类：
其他好文 时间：
2017-08-12 17:04:22
阅读次数：
169
1.监督学习（Supervised Learning）：回归问题，分类问题 1.1 拿支持向量机举个例子，分类问题和回归问题都要根据训练样本找到一个实值函数g(x). 回归问题的要求是：给定一个新的模式，根据训练集推断它所对应的输出y（实数）是多少。也就是使用y=g(x)来推断任一输入x所对应的输出 ...
分类：
其他好文 时间：
2017-08-11 22:03:18
阅读次数：
136
