import random as rdimport mathclass LogisticRegressionPySpark: def __init__(self,MaxItr=100,eps=0.01,c=0.1): self.max_itr = MaxItr se...
分类：
其他好文 时间：
2015-07-03 20:40:40
阅读次数：
523
作业四的代码题目主要是基于ridge regression来做的，并加上了各种cross-validation的情况。由于ridge regression是有analytic solution，所以直接求逆矩阵就OK了，过程并不复杂。只有在做cross-validation的时候遇上了些问题。#en...
分类：
其他好文 时间：
2015-07-01 20:32:28
阅读次数：
217
正则化的提出，是因为要解决overfitting的问题。以Linear Regression为例：低次多项式拟合的效果可能会好于高次多项式拟合的效果。这里回顾上上节nonlinear transform的课件：上面的内容说的是，多项式拟合这种的假设空间，是nested hypothesis；因此，能...
分类：
其他好文 时间：
2015-06-30 21:36:17
阅读次数：
356
逻辑回归优化方法-L-BFGS逻辑回归的优化方法是一个经典的问题，如果我们把它视为一个最大熵模型，那么我们知道最早的优化方法是IIS，这个方法就不细讲了，因为它速度很慢。后来发现在最优化领域中非常常用的l-BFGS方法对于Logistic Regression的收敛速度优化是不错的。l-BFGS方法...
分类：
其他好文 时间：
2015-06-30 18:02:00
阅读次数：
132
Regularized Linear Regression with scikit-learnEarlier we covered Ordinary Least Squares regression. In this posting we will build upon this foundatio...
分类：
其他好文 时间：
2015-06-29 21:51:57
阅读次数：
115
关注了Q18~Q20三道编程作业题。这三道题都与Logistic Regression相关。Q18~19是用全量梯度下降实现Logistic Regression；Q20要求用随机梯度下降实现Logistic Regression。这三题的代码都何在一个py文件中了。个人觉得，这道题的程序设计，完全...
分类：
其他好文 时间：
2015-06-28 16:49:11
阅读次数：
266
% Exercise 4 -- Logistic Regressionclear all; close all; clcx = load('E:\workstation\data\ex4x.dat'); y = load('E:\workstation\data\ex4y.dat');[m, n] ...
分类：
其他好文 时间：
2015-06-27 21:10:12
阅读次数：
301
%% 方法一：梯度下降法x = load('E:\workstation\data\ex3x.dat');y = load('E:\workstation\data\ex3y.dat');x = [ones(size(x,1),1) x];meanx = mean(x);%求均值sigmax = s...
分类：
其他好文 时间：
2015-06-27 19:50:56
阅读次数：
124
这一节讲线性模型，先将几种线性模型进行了对比，通过转换误差函数来将linear regression 和logistic regression 用于分类。比较重要的是这种图，它解释了为何可以用Linear Regression或Logistic Regression来替代Linear Classif...
分类：
其他好文 时间：
2015-06-27 15:46:40
阅读次数：
138
首先回顾了几个Linear Model的共性：都是算出来一个score，然后做某种变化处理。既然Linear Model有各种好处（训练时间，公式简单），那如何把Linear Regression给应用到Classification的问题上呢？到底能不能迁移呢？总结了如下的集中Linear Mode...
分类：
其他好文 时间：
2015-06-27 11:34:22
阅读次数：
130
