一、什么是Lowess?
Locally Weighted Scatterplot Smoothing(局部加权散点图平滑),简称LOWESS,是一种非参数回归技术,主要用于确定在一个二元数据的散点图上(两个变量的数据分布图)的一个光滑的(或非粗糙的)的函数。相比于传统的线性回归,Lowess更适合对噪声数据进行拟合。 在介绍Lowess的原理之前,我们先了解几个概念。
二、几个重要概念
1.离差平方和(SSE):是指每个数据点到拟合直线的距离距离的平方之和。
2.带宽h:带宽即决定拟合直线上的点数,也可以理解成控制了拟合的光滑程度。
3.权重函数W:Lowess的特色在于采用了非线性的权重函数。在原点距离超过带宽h的点权重会被赋值为0,两点之间距离越近,权重越大。
三、Lowess原理
在Lowess中,我们以两个变量x和y画出散点图,用一条平滑曲线来描述变量之间的关系。这条曲线不是一次函数,也不是二次函数,而是由所有点组成的局部函数。
在计算曲线的每一个点处的函数值时,我们通过以下步骤:
1. 将当前点加入到窗口(窗口大小由带宽h设定)。
2. 在窗口内根据权重函数计算出每个数据点的权重(距离当前点越近的数据点权重越大)。
3. 根据权重计算出权重均值,并用它来对当前点进行平滑化。
4. 将当前点向右或向下移动一格,重复步骤1-3,直到计算完成。
from statsmodels.nonparametric.smoothers_lowess import lowess # 生成随机数据 import numpy as np np.random.seed(42) x = np.linspace(-5, 5, 20) y = np.sin(x) + np.random.normal(0, 0.5, len(x)) # 用lowess函数来拟合数据 z = lowess(y, x, frac=1./3, return_sorted=False)
四、Lowess应用场景
由于Lowess适用于非线性数据集,主要可以应用于以下几个方面:
1.在图形中平滑曲线。Lowess可用于对数据进行平滑处理,并绘制曲线以显示数据的趋势。
2.在趋势分析中。与其他非参数估计方法一样,Lowess对于确定数据的趋势是非常有用的。
3.在回归分析中。它可以使用x的值来预测y的值,这是回归分析的一种非参数方法。
五、优缺点
Lowess作为一种比较新的算法,具有以下优点:
1.可以更好地处理非线性数据集和噪声数据集。
2.可以适用于所有连续变量的数据集,不需要假设线性模型。
3.适用于小型数据集和高维数据集,但比其他非参数估计方法所需的计算量稍大。
但是,Lowess也有缺点,主要表现为:
1.可能不适用于大型数据集,对于大量的数据集计算时间更长。
2.需要进行尝试调整带宽h和阈值等参数。
六、总结
Lowess是一种非参数回归技术,旨在消除数据集中的噪声并拟合非线性数据集。它运用非线性的权重函数进行平滑处理,可以更好地凸显数据集的趋势。它适用于小型数据集和高维数据集,在实际应用中有较高的实用性,但需要注意在调整带宽和阈值时进行适当的优化。