一、前述 机器学习算法中，有种依据概率原则进行分类的朴素贝叶斯算法，正如气象学家预测天气一样，朴素贝叶斯算法就是应用先前事件的有关数据来估计未来事件发生的概率。 二、具体 1、背景--贝叶斯定理引入对于两个关联事件（非独立事件）A和B，同时发生的概率为：P(AB)=P(A|B)P(B)=P(B|A) ...
分类：
其他好文 时间：
2018-04-07 17:49:38
阅读次数：
217
机器学习的定义 计算机程序从经验E中学习，解决某一任务T、进行某一性能度量P，通过P测定在T上的表现因E而提高。 简而言之：程序通过多次执行之后获得学习经验，利用这些经验可以使得程序的输出结果更为理想，就是机器学习。 主要的两类机器学习算法 监督学习和无监督学习 监督学习 定义：对于数据集中的每个样 ...
分类：
其他好文 时间：
2018-04-07 15:02:06
阅读次数：
127
K最近邻(k-Nearest Neighbor，KNN)分类算法，是一个理论上比较成熟的方法，也是最简单的机器学习算法之一。该方法的思路是：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别。谁和我隔得近，我就跟谁是一类，有点中国古语说的 ...
分类：
编程语言 时间：
2018-04-07 11:20:22
阅读次数：
197
什么是K近邻? K近邻一种非参数学习的算法，可以用在分类问题上，也可以用在回归问题上。 什么是非参数学习？ 一般而言，机器学习算法都有相应的参数要学习，比如线性回归模型中的权重参数和偏置参数，SVM的C和gamma参数，而这些参数的学习又依赖一定的学习策略。相比较而言，k近邻算法可以说是最简单，也是 ...
分类：
编程语言 时间：
2018-04-06 17:34:49
阅读次数：
136
梯度下降是迭代法的一种，可以用于求解最小二乘问题(线性和非线性都可以)。在求解机器学习算法的模型参数，即无约束优化问题时，梯度下降（Gradient Descent）是最常采用的方法之一，另一种常用的方法是最小二乘法。在求解损失函数的最小值时，可以通过梯度下降法来一步步的迭代求解，得到最小化的损失函... ...
分类：
其他好文 时间：
2018-04-03 23:53:43
阅读次数：
240
原帖地址：https://www.jiqizhixin.com/articles/2018-04-03-5 K 近邻算法，简称 K-NN。在如今深度学习盛行的时代，这个经典的机器学习算法经常被轻视。本篇教程将带你使用 Scikit-Learn 构建 K 近邻算法，并应用于 MNIST 数据集。然后， ...
分类：
编程语言 时间：
2018-04-03 12:50:28
阅读次数：
158
主成分分析（principal component analysis,简称PCA）是一种经典且简单的机器学习算法，其主要目的是用较少的变量去解释原来资料中的大部分变异，期望能将现有的众多相关性很高的变量转化为彼此互相独立的变量，并从中选取少于原始变量数目且能解释大部分资料变异情况的若干新变量，达到降 ...
分类：
编程语言 时间：
2018-03-31 21:30:10
阅读次数：
242
神经网络反向传播 首先理解一个基础前提，神经网络只是一个嵌套的，非线性函数（激活函数）复合线性函数的函数。对其优化，也同一般机器学习算法的目标函数优化一样，可以用梯度下降等算法对所有函数参数进行优化。 但因为前馈神经网络的函数嵌套关系，对其优化求偏导时，存在一个沿着网络反方向的链式关系。 以一个两个 ...
分类：
其他好文 时间：
2018-03-27 12:22:36
阅读次数：
136
概要 把常用的机器学习算法：$k$ 近邻算法、决策树、朴素贝叶斯、$K$ 均值聚类其思想有及 python 代码实现总结一下。做到既要知其然又要知其所以然。参考《机器学习实战》。 $k$ 近邻算法 基本原理 $k$ 近邻算法是分类数据最简单有效 ...
分类：
编程语言 时间：
2018-03-26 19:07:02
阅读次数：
215
前言 特征是数据中抽取出来的对结果预测有用的信息，可以是文本或者数据。特征工程是使用专业背景知识和技巧处理数据，使得特征能在机器学习算法上发挥更好的作用的过程。过程包含了特征提取、特征构建、特征选择等模块。 特征工程的目的是筛选出更好的特征，获取更好的训练数据。因为好的特征具有更强的灵活性，可以用简 ...
分类：
其他好文 时间：
2018-03-25 16:20:33
阅读次数：
1402
