特征归一化（Feature Normalization）也称为特征标准化，是数据预处理阶段的一种重要技术。它的目的是将数据集中的特征（变量）转换到一个特定的范围或者具有特定的分布，使得不同特征具有相似的尺度，从而提高模型的训练效率和性能。

常见的方法

• 原理：
• 也称为离差标准化，将原始数据特征映射到指定的区间，通常是[0,1]。公式为(x_{new}=\frac{x - x_{min}}{x_{max}-x_{min}})，其中(x)是原始特征值，(x_{min})和(x_{max})是该特征在数据集中的最小值和最大值，(x_{new})是归一化后的特征值。例如，对于一个特征列中的值为(2)，该特征列最小值是(1)，最大值是(3)，那么经过最小 - 最大归一化后的值为(\frac{2 - 1}{3 - 1}=0.5)。
• 应用场景和优势：
• 适用于数据分布较为均匀，需要将数据严格限制在某个区间的情况。在神经网络的输入层中，这种归一化可以确保所有输入特征在相同的尺度范围[0,1]内，避免因为某些特征数值过大而对模型训练产生主导影响。例如，在图像像素值的归一化中，将像素值从0 - 255的范围归一化到0 - 1的范围，方便模型更好地处理图像数据。

Z - 分数归一化（Z - Score Normalization）

• 原理：
• 也叫标准化，基于特征的均值和标准差来进行归一化。公式为(x_{new}=\frac{x - \mu}{\sigma})，其中(x)是原始特征值，(\mu)是该特征的均值，(\sigma)是该特征的标准差。例如，若一个特征的均值为(10)，标准差为(2)，原始值为(14)，则归一化后的值为(\frac{14 - 10}{2}=2)。经过Z - 分数归一化后，数据的均值为(0)，标准差为(1)，服从标准正态分布。
• 应用场景和优势：
• 在数据不符合均匀分布，且存在异常值的情况下，Z - 分数归一化可以更好地处理数据。在统计学和机器学习中广泛应用，因为许多统计模型和机器学习算法（如线性回归）假设数据服从正态分布或者在正态分布下性能更好。这种归一化可以使数据更符合这些模型的假设。例如，在处理金融数据中的股票价格波动特征时，由于价格可能受到突发事件等因素影响出现异常值，Z - 分数归一化可以帮助将数据转换到更合适的分布，便于后续模型（如风险评估模型）的使用。

重要性

• 当特征具有不同的尺度时，例如一个特征的数值范围是0 - 1，另一个特征的数值范围是0 - 1000，在使用梯度下降等优化算法训练模型时，数值范围大的特征会导致梯度更新步长过大，使得模型难以收敛。通过特征归一化，所有特征具有相似的尺度，优化算法可以更有效地搜索最优解，从而加快模型的收敛速度。

• 一些机器学习和深度学习算法对数据的分布有一定的要求。例如，K - 均值聚类算法在特征尺度一致的情况下能够更好地划分聚类。神经网络在输入数据归一化后，能够更稳定地训练，减少过拟合的风险，并且对于不同的输入特征能够给予更均衡的关注，从而提高模型的准确性和泛化能力。