1.线性回归不适用于分类问题。 原因:1.单个样本对于线性回归可能会造成很大的影响。 2.函数的输出值可能非常大,非常离谱。 2.逻辑回归(logistic regression):一种分类算法。是广义线性回归,$h(x)=g(\theta^{T}x)$,其中 $g(x)=\frac{1}{1+e^ ...
分类:
其他好文 时间:
2020-02-16 20:58:28
阅读次数:
86
这篇记录的内容来自于Andrew Ng教授在coursera网站上的授课。 1.多元线性回归(multivariate linear regression): h函数:$h_{\theta}{(x)}=\theta_{0}+\sum_{i=1}^{n}{\theta_{i}x_{i}}$ 为方便起见 ...
分类:
其他好文 时间:
2020-02-15 09:50:40
阅读次数:
81
超参数 定义 在拟合模型之前需要定义好的参数 适用 Linear regression: Choosing parameters Ridge/lasso regression: Choosing alpha k Nearest Neighbors: Choosing n_neighbors Para ...
分类:
其他好文 时间:
2020-02-14 13:12:52
阅读次数:
92
一、线性回归 1、模型 2、损失函数 3、优化函数-梯度下降 #!/usr/bin/env python # coding: utf-8 import torch import time # init variable a, b as 1000 dimension vector n = 1000 a ...
分类:
其他好文 时间:
2020-02-12 10:53:33
阅读次数:
110
1. Gaussian processesGaussian processes are the extension of multivariate Gaussians to infinite-size collections real valued variables. In particular, ...
分类:
其他好文 时间:
2020-02-09 18:32:46
阅读次数:
89
Let $S={(x^{(i)}, y^{(i)})}_{i=1}^m$ be a training set of i.i.d. examples from unknow distribution. The standard probabilistic interpretation of linea ...
分类:
其他好文 时间:
2020-02-09 18:25:31
阅读次数:
78
Linear regression 1. 线性回归 线性回归模型尽量写成矩阵形式进行计算。 为什么矩阵计算比循环快很多? 【知乎】因为通常的数学库,矩阵运算都是用BLAS、ATLAS之类的库。这些库中,矩阵运算都是优化过的(也就是说通常不会用两层循环来计算矩阵乘法,具体的计算方法请参考源代码)。 当 ...
分类:
其他好文 时间:
2020-02-04 13:44:43
阅读次数:
102
概述 前面几节讲的是linear regression的内容,这里咱们再讲一个非常常用的一种模型那就是classification,classification顾名思义就是分类的意思,在实际的情况是非常常用的,例如咱们可以定义房价是否过高,如果房价高于100万,则房价过高,设置成true;如果房价低 ...
分类:
其他好文 时间:
2020-02-01 23:25:19
阅读次数:
97
机器学习的算法分为两大类:监督学习和无监督学习。 监督学习即在机器学习的过程中提供对错指示。一般是在数据组中包含最终结果(0,1),通过算法让机器减少误差。这一类学习主要应用于分类与预测(Regression & Classify)。监督学习从给定的训练数据集中学习出一个目标函数,当新的数据到来时, ...
分类:
系统相关 时间:
2020-02-01 12:42:08
阅读次数:
85
TensorFlow是咱们机器学习领域非常常用的一个组件,它在数据处理,模型建立,模型验证等等关于机器学习方面的领域都有很好的表现,前面的一节我已经简单介绍了一下TensorFlow里面基础的数据结构即:Tensor和Dataset; 这里咱们开始介绍TensorFlow的建模过程以及验证模型的一些 ...
分类:
其他好文 时间:
2020-01-29 21:34:51
阅读次数:
88