本篇为《Python机器学习》一书的笔记。 一、简单线性回归模型 简单(单变量)线性回归的目标是:通过模型来描述某一特征(解释变量x),与连续输出(目标特征y)之间的关系。当只有一个解释变量时,线性模型的函数定义如下: 线性回归可以看成是求解样本点的最佳拟合直线,这条最佳拟合线被称为回归线,回归线与 ...
分类:
其他好文 时间:
2018-04-19 17:42:13
阅读次数:
303
线性回归算法 解决回归问题 思想简单,容易实现 是许多强大的非线性模型的基础 结果具有很好的可解释性 蕴含机器学习中的很多重要思想 基本思想:寻找一条直线,最大程度的“拟合”样本特征和样本输出标记之间的关系 如横轴房屋面积,纵轴房屋价格 由实际值x(i)代入到拟合直线方程中得到的y_hat, 即y的 ...
分类:
其他好文 时间:
2018-02-28 17:34:38
阅读次数:
161
1 #coding=utf-8 2 from numpy import * 3 import numpy as np 4 import matplotlib.pyplot as plt 5 6 plt.close() 7 fig=plt.figure() 8 plt.grid(True) 9 plt... ...
分类:
其他好文 时间:
2017-12-11 11:11:18
阅读次数:
156
8. 1 用线性回归找到最佳拟合直线 线性回归 优点:结果易于理解,计算上不复杂。 缺点:对非线性的数据拟合不好。 适用数据类型:数值型和标称型数据。 回归的目的是预测数值型的目标值。最直接的办法是依据输人写出一个目标值的计算公式。 假如你想要预测姐姐男友汽车的功率大小,可能会这么计算: Horse ...
分类:
其他好文 时间:
2017-11-17 18:26:41
阅读次数:
303
一、概述 假设现在有一些数据点,我们用一条直线对这些点进行拟合(该线称为最佳拟合直线),这个拟合过程就称为回归; 利用Logistic回归进行分类的主要思想是: 根据现有数据对分类边界线建立回归公式, 以此进行分类。 这里的“回归”一词源于最佳拟合, 表示要找到最佳拟合参数集, 其背后的数学分析将在 ...
分类:
系统相关 时间:
2017-10-31 12:51:46
阅读次数:
158
什么是是神经网络? 假如有6间房屋的数据集,已知房子的面积,单位是平方米或平方英尺,已知房子的价格。如果通过这6间房子的价格和房子的面积,预测房子的价格,首先要建立起一个数据模型 ,x轴为价格,y轴为房子面积的模型 用这些数据,来拟合一条直线,但是明白一点,价格不可能为负数,然后一条拟合直线出来了 ...
分类:
其他好文 时间:
2017-09-08 14:55:30
阅读次数:
151
2017-08-12 Logistic 回归,作为分类器: 分别用了梯度上升,牛顿法来最优化损失函数: # -*- coding: utf-8 -*-'''function: 实现Logistic回归,拟合直线,对数据进行分类;利用梯度上升,随机梯度上升,改进的随机梯度上升,牛顿法分别对损失函数优化 ...
分类:
编程语言 时间:
2017-08-13 00:18:32
阅读次数:
347
http://blog.csdn.net/sudohello/article/details/51335237 霍夫变换Hough 霍夫变换(Hough)是一个非常重要的检测间断点边界形状的方法。它通过将图像坐标空间变换到参数空间,来实现直线与曲线的拟合。 1.直线检测 1.1 直线坐标参数空间 在 ...
分类:
其他好文 时间:
2017-07-13 20:33:58
阅读次数:
311
如果不了解最小二乘算法 请先阅读: Least squares的算法细节原理https://en.wikipedia.org/wiki/Least_squares 通常在halcon中拟合直线会用houghline或者 fitline。本文提供一种新的选择,用halcon的矩阵操作实现最小二乘拟合直 ...
分类:
其他好文 时间:
2017-04-12 01:35:57
阅读次数:
863
Ordinary Least Squares 普通最小二乘法 当达到最小值的时候,就达到最佳拟合直线 求关于系数w 最小二次方程的最小值,可以利用求对w偏导数 同上面等价的另外一种形式的表示: 也可以简化成 推导过程: Ridge Regression 岭回归 Ridge Regression 岭回 ...
分类:
其他好文 时间:
2016-08-05 07:44:12
阅读次数:
133