【机器学习】 特征工程：特征预处理，归一化、标准化、处理缺失值

特征预处理采用的是特定的统计方法（数学方法）将数据转化为算法要求的数字

1. 数值型数据

归一化，将原始数据变换到[0,1]之间

标准化，数据转化到均值为0，方差为1的范围内   

缺失值，缺失值处理成均值、中位数等

2. 类别型数据

降维，多指标转化为少数几个综合指标，去掉关联性不大的指标

PCA，降维的一种

3. 时间类别

时间的切分

1. 归一化

归一化是在特征(维度)非常多的时候，可以防止某一维或某几维对数据影响过大，也是为了把不同来源的数据统一到一个参考区间下，这样比较起来才有意义。其次可以让程序更快地运行。

例如，一个人的身高和体重两个特征，假如体重50kg，身高175cm，由于两个单位不一样，数值大小不一样。如果比较两个人的体型差距时，那么身高的影响结果会比较大，因此在做计算之前需要先进行归一化操作。

归一化的公式为：

x^{'} = \frac{x-min}{max-min}

x^{''} = x^{'}*(mx-mi)+mi

式中，max 和 min 分别代表某列中的最大值和最小值；x 为归一化之前的值；x'' 为归一化后的结果；mx 和 mi 为要归一化的区间，默认是 [0,1]，即mx=1，mi=0

在 sklearn 中的实现，导入方法： from sklearn.preprocessing import MinMaxScaler

归一化方法： scaler.fit_transform()

# 自定义数据
data = [[180,75,25],[175,80,19],[159,50,40],[160,60,32]]
# 导入归一化方法
from sklearn.preprocessing import MinMaxScaler
# 接收该方法
# scaler = MinMaxScaler(feature_range=(0,2)) #指定归一化区间
scaler = MinMaxScaler()
# 将数据传入归一化方法，产生返回值列表类型
result = scaler.fit_transform(data)

可以在归一化方法 MinMaxScaler() 中加入参数 feature_range=( , ) 来指定归一化范围，默认[0,1]。

归一化的优缺点：

归一化非常容易受到最大值和最小值的影响，因此，如果数据集中存在一些异常点，结果将发生很大改变，因此这种方法的鲁棒性(稳定性)很差。只适合数据量比较精确，比较小的情况。

2. 标准化

为了防止某一特征对结果影响太大，将每一个特征(每一列)都进行标准化处理，常用的方法是 z-score 标准化，处理后的数据均值为0，标准差为1，满足标准正态分布。标准正态分布图如下：

标准化公式：

x^{'}=(x-\mu )/\sigma

其中，

\mu

 是样本均值，

\sigma

 是样本标准差，它们可以通过现有的样本进行估计，在已有的样本足够多的情况下比较稳定，不受样本最大值和最小值的影响，适合嘈杂的数据场景。

标准差的求法是先求方差，方差 std 的求法如下，n为每个特征的样本数。

std = \frac{(\,(x1-mean)^{2}+(x2-mean)^{2}+...+(xn-mean)^{2}\,)}{n}

标准差为方差开根号

\sigma =\sqrt{std}

方差和标准差越趋近于0，则表示数据越集中；如果越大，表示数据越离散。

在 sklearn 中实现，导入方法： from sklearn.preprocessing import StandardScaler

标准化方法： scaler.fit_transform()

# 自定义数据
data = [[180,75,25],[175,80,19],[159,50,40],[160,60,32]]
# 导入标准化
from sklearn.preprocessing import StandardScaler
# 接收标准化
scaler = StandardScaler()
# 将数据传入标准化方法产生返回值是列表类型
result = scaler.fit_transform(data)

3. 缺失值处理

缺失值一般有两种处理方法，第一种是直接进行删除，第二种是进行替换。除非缺失值占总数据集的比例非常少，才推荐使用删除的方式，否则建议使用平均值、中位数的方式进行替换。

在sklearn中有专门的缺失值处理方式，from sklearn.impute import SimpleImputer

处理方法 SimpleImputer() 参数设置：

missing_values： 数据中的哪些值视为缺失值。默认missing_values=nan，把数据中的nan当作缺失值

strategy： 替换缺失值的策略，默认strategy='mean'，使用平均值替换，可选'median'中位数，'most_frequent'众数，'constant'常数项。

注意：这里的均值众数等都是该缺失值所在特征列上的均值众数。

fill_value：只有当指定 strategy='constant' 时才使用，用于指定一个常数，默认fill_value=None

# 处理缺失值
# 自定义数据
import numpy as np
data = [[1,2],[np.nan,4],[9,1]]
# 导入缺失值处理方法
from sklearn.impute import SimpleImputer
# 接收方法
si = SimpleImputer()
# 传入原始数据
result = si.fit_transform(data)

使用默认值修改缺失值，用平均值替换nan