标签:mod 定义 归一化 高斯 nump scale generated 效果 表示
特征归一化
有很多不同的叫法,比如:特征缩放
,Feature Normalization
,Feature Scaling
数据标准化(归一化)处理是数据挖掘的一项基础工作,不同评价指标往往具有不同的量纲和量纲单位,这样的情况会影响到数据分析的结果,为了消除指标之间的量纲影响,需要进行数据标准化处理,以解决数据指标之间的可比性。原始数据经过数据标准化处理后,各指标处于同一数量级,适合进行综合对比评价。
特征归一化
的意义称为离差标准化,是对原始数据的线性变换,使结果值映射到[0 1]之间。转换函数如下:
x^*=\frac{x-min}{max-min}
该方法实现对原始数据的等比例缩放,其中x^*
为归一化后的数据,x
为原始数据,max
为样本数据的最大值,min
为样本数据的最小值。
缺点:
优点:
这种方法给予原始数据的均值(mean)和标准差(standard deviation)进行数据的标准化。将原始数据集归一化为均值为0、方差1的数据集,转化函数为:
x^*=\frac{x-\mu}{\delta}
其中μ
、δ
分别为原始数据集的均值和方法。该种归一化方式要求原始数据的分布可以近似为高斯分布,否则归一化的效果会变得很糟糕。
优点:
以上为两种比较普通但是常用的归一化技术,那这两种归一化的应用场景是怎么样的呢?什么时候第一种方法比较好、什么时候第二种方法比较好呢?下面做一个简要的分析概括:
Python
来实现上述举例:假设有4个样本及他们的特征如下
样本 | 特征1 | 特征2
---|---|---
1 | 10001 | 2
2 | 16020 | 4
3 | 12008 | 6
4 | 13131 | 8
可见归一化前,特征1和特征2的大小不是一个数量级。归一化后,特征变为
样本 | 特征1 | 特征2 |
---|---|---|
1 | 0 | 0 |
2 | 1 | 0.33 |
3 | 0.73 | 0.67 |
4 | 0.81 | 1 |
sklearn.preprocessing.MinMaxScaler
在sklearn
中,sklearn.preprocessing.MinMaxScaler
是一种用于特征归一化的方法。使用示例如下
from sklearn.preprocessing import MinMaxScaler
x = [[10001,2],[16020,4],[12008,6],[13131,8]]
min_max_scaler = MinMaxScaler()
X_train_minmax = min_max_scaler.fit_transform(x)#归一化后的结果
X_train_minmax
array([[ 0. , 0. ],
[ 1. , 0.33333333],
[ 0.33344409, 0.66666667],
[ 0.52001994, 1. ]])
它默认将每种特征的值都归一化到[0,1]之间,归一化后的数值大小范围是可调的(根据MinMaxScaler的参数feature_range调整)。下面代码能将特征归一化到[-1,1]之间。
min_max_scaler = MinMaxScaler(feature_range=(-1,1))
X_train_minmax = min_max_scaler.fit_transform(x)#归一化后的结果
X_train_minmax
array([[-1. , -1. ],
[ 1. , -0.33333333],
[ 0.46574339, 0.33333333],
[ 0.6152873 , 1. ]])
MinMaxScaler的实现公式如下
X_std = (X - X.min(axis=0)) / (X.max(axis=0) - X.min(axis=0))
X_scaled = X_std * (max - min) + min
这是向量化的表达方式,说明X是矩阵,其中
MinMaxScaler
的参数feature_range
参数。即最终结果的大小范围以下例说明计算过程(max=1,min=0)
样本 | 特征1 | 特征2
---|---|---
1 | 10001 | 2
2 | 16020 | 4
3 | 12008 | 6
4 | 13131 | 8
X.max | 16020 | 8
X.min | 10001 | 2
归一化的过程如下,假设归一化后的矩阵为S
可见,结果与章节“MinMaxScaler使用”中的计算结果一致。
sklearn.preprocessing.StandardScaler
sklearn.preprocessing.robust_scale
在sklearn
中,sklearn.preprocessing.StandardScaler
是一种用于特征归一化的方法。使用示例如下
from sklearn.preprocessing import StandardScaler
x = [[10001,2],[16020,4],[12008,6],[13131,8]]
X_scaler = StandardScaler()
X_train = X_scaler.fit_transform(x)
X_train
array([[-1.2817325 , -1.34164079],
[ 1.48440157, -0.4472136 ],
[-0.35938143, 0.4472136 ],
[ 0.15671236, 1.34164079]])
归一化后,矩阵每列的均值为0,标准差为1。注意,这里的标准差是指加了Delta Degrees of Freedom因子后的标准差,这与传统的标准差计算公式有区别。(在numpy中,有std()函数用于计算标准差)
StandardScaler的归一化方式是用每个特征减去列均值,再除以列标准差。
以下例说明计算过程,注意标准差是用np.std()计算的。
样本 | 特征1 | 特征2 |
---|---|---|
1 | 10001 | 2 |
2 | 16020 | 4 |
3 | 12008 | 6 |
4 | 13131 | 8 |
列均值 | 12790 | 5 |
列标准差 | 2175.96 | 2.236 |
归一化的过程如下,假设归一化后的矩阵为S
标签:mod 定义 归一化 高斯 nump scale generated 效果 表示
原文地址:https://www.cnblogs.com/cjr0707/p/9750611.html