目录 SVM回归模型的损失函数度量 SVM回归模型的目标函数的原始形式 SVM回归模型的目标函数的对偶形式 SVM 算法小结 一、SVM回归模型的损失函数度量 SVM和决策树一样，可以将模型直接应用到回归问题中；在SVM的分类模型(SVC)中，目标函数和限制条件如下 在SVR中，目的是为了尽量拟合一... ...
分类：
其他好文 时间：
2020-02-24 00:53:42
阅读次数：
128
目录 简述 K-means聚类 密度聚类 层次聚类 一、简述 聚类算法是常见的无监督学习（无监督学习是在样本的标签未知的情况下，根据样本的内在规律对样本进行分类）。 在监督学习中我们常根据模型的误差来衡量模型的好坏，通过优化损失函数来改善模型。而在聚类算法中是怎么来度量模型的好坏呢？聚类算法模型的性... ...
分类：
编程语言 时间：
2020-02-24 00:03:55
阅读次数：
77
目录 感知机模型 感知机模型损失函数 感知机模型损失函数的优化方法 感知机模型的算法 感知机模型的算法对偶形式 我们知道较早的分类模型——感知机（1957年）是二类分类的线性分类模型，也是后来神经网络和支持向量机的基础。 1、感知机模型 感知机模型是一种二分类的线性分类器，只能处理线性可分的问题，感... ...
分类：
编程语言 时间：
2020-02-23 23:55:25
阅读次数：
114
线性回归可以说是机器学习中最基本的问题类型了，这里就对线性回归的原理和算法做一个小结 目录 背景 简述 内容详解 密度聚类 层次聚类 模型效果判断 附件：手写推导过程练习 一、线性回归函数定义 二、线性回归的模型函数和损失函数由来 原因：中心极限定理 实际问题中，很多随机现象可以看做众多因素的独立影... ...
分类：
其他好文 时间：
2020-02-23 22:00:31
阅读次数：
85
优化与深度学习 优化与估计 尽管优化方法可以最小化深度学习中的损失函数值，但本质上优化方法达到的目标与深度学习的目标并不相同。 优化方法目标：训练集损失函数值 深度学习目标：测试集损失函数值（泛化性） 1 %matplotlib inline 2 import sys 3 import d2lzh1 ...
分类：
其他好文 时间：
2020-02-20 13:14:49
阅读次数：
93
1.概述 回归树就是用树模型做回归问题，每一片叶子都输出一个预测值。预测值一般是该片叶子所含训练集元素输出的均值， 即 𝑐𝑚=𝑎𝑣𝑒(𝑦𝑖|𝑥𝑖∈𝑙𝑒𝑎𝑓𝑚)cm=ave(yi|xi∈leafm)。 2.构建过程 回归树采用平方和损失函数 每次选择一个切分变量j和切分点s ...
分类：
其他好文 时间：
2020-02-19 23:46:37
阅读次数：
75
网络结构 输入层、隐含层(多层)、输出层 单个神经元结构，g(z)为激励函数，线性组合，非线性处理 逻辑回归 正向传播预测结果，反向传播调整w和b 激励函数 作用：提供规模化的非线性化能力 常用： 损失函数 单次训练损失： 全部训练损失： 梯度下降 逻辑回归梯度下降 同步更新 网络向量化 网络梯度下 ...
分类：
其他好文 时间：
2020-02-17 20:11:10
阅读次数：
111
基本内容 1、 实现一个网络模型，需要继承torch.nn.Module类，初始化模型参数，并实现forward()函数 2、torch.nn.functional 提供一些如损失函数等不需要学习参数的功能函数 3、torch.nn.Sequential() 模块简化简单模型的定义 4、损失函数to ...
分类：
其他好文 时间：
2020-02-14 14:26:16
阅读次数：
95
一、什么是softmax？ 有一个数组S，其元素为Si ，那么vi 的softmax值，就是该元素的指数与所有元素指数和的比值。具体公式表示为： softmax回归本质上也是一种对数据的估计 二、交叉熵损失函数 在估计损失时，尤其是概率上的损失，交叉熵损失函数更加常用。下面是交叉熵 当我们预测单个物 ...
分类：
其他好文 时间：
2020-02-13 00:30:19
阅读次数：
115
