Page 87 - 水利学报2021年第52卷第4期

2.2 最小二乘支持向量机理论 最小二乘支持向量机（Least Squares Support Vector Machine，LS-SVM）
是支持向量机的变体与改进，它结合最小二乘法理论，将支持向量机分类与回归中的不等式约束条
件转换为等式约束，并用误差平方和损失函数代替其不敏感损失函数，因此，支持向量机的最优解
问题也由二次规划问题转变为求解线性方程组，降低了计算的复杂度，具有良好的泛化能力 ［11-12］ 。
给 定 包 含 N 组 样 本 的 训 练 集 {y ，x } N ， 其 中 x 、 y 分 别 为 第 k 组 输 入 、 输 出 样 本 ， 且
k
k
k = 1 k k
n
x ∈ R ， y ∈ R 。则支持向量机解决回归分类问题的方法是构造如下形式的数学模型：
k
k
é
N
y ( ) x = sign êå α y ψ (x，x k ) + ù ú b ， α ∈ R ，b ∈ R （5）
k
k
k
+
ë k = 1 û
)
式中： ψ ( ·，· 为映射函数，将低维输入向量映射到高维空间； α 、 b 均为常数。
k
最小二乘支持向量机通过引入最小二乘法，其优化问题为：
)
min J (ω，b，e = 1 ω ω + γ N e 2 （6）
T
ω，b，e 2 2 å k
k = 1
式中： ω 为权向量矩阵； e 为误差，称为松弛因子； γ 为正则化参数，又称惩罚因子。该优化问题
的约束条件为：
]
k[
x
y ω φ ( ) + b = 1 - e ， k = 1，⋯，N （7）
T
k
k
x
式中， φ ( ) 为非线性映射函数。
k
为了将带约束条件的优化问题转化为无约束条件的优化问题，引入拉格朗日方程，并根据 Ka⁃
rush-Kuhn-Tucker 条件得到最小二乘支持向量机的线性回归方程 ［13］ ：
N
y ( ) x = å α ψ (x，x k ) + b （8）
k
k = 1
因此，式（5）中支持向量机的回归与分类问题转变为求解线性方程，参数 α 与 b 通过最小二乘法
)
求出，映射函数 ψ ( ·，· 选用径向基核函数，表达式为：
æ  x - x  2 ö
ç
ψ (x，x k ) = exp - 2 k ÷ ÷ （9）
ç
è 2σ ø
式中， σ 为核参数，与式（6）中的惩罚因子 γ 共同影响着最小二乘支持向量机的回归精度。
2.3 小波奇异值分解理论
2.3.1 小波理论 小波变换具有良好的时频局部化特性，可有效地将信号分解为包含不同频率成分
的信号分量，目前广泛应用在信号降噪 ［14］ 、信号特征提取 ［15］ 等领域。
对信号 f ( ) t 进行连续小波变换，其表达式为：
+R
)
R
CWT (a，τ = f ( ) t ，ψ a，τ ( ) t = 1 f ( ) t ψ æ t - τ ö dt ∀f ( ) t ，ψ ( ) t ∈ L ( ) （10）
2
f
a  -R è a ø
将式（10）小波基函数 ψ ( ) ∙ 的尺度因子 a 和时间平移因子 τ 在同一尺度下离散化处理，按幂级数
)
j j ［16］
展开得 a = a ， τ = ka ( j，k ∈ z ，取 a = 2 ，即得到信号的离散小波变换形式：
0 0 0
j +R
)
-j
)
DWT ( j，k = f ( ) t ，ψ j，k ( ) t = 2 - 2  -R f ( ) t ψ ( 2 t - k dt ∀f ( ) t ，ψ ( ) t ∈ L ( ) （11）
R
2
f
式中： j 为离散小波变换中的尺度参数； k 为时间平移参数；小波基函数 ψ ( ) t 通过 j 与 k 的伸缩平
)
移得到小波信号 ψ j，k ( ) t ，计算 ψ j，k ( ) t 与信号 f ( ) t 的内积，最终得到信号展开系数 DWT ( j，k ，
f
实现对信号的离散小波变换。
使用多分辨率分析理论 ［17］ 将信号 f ( ) t 分解到不同的小波空间和尺度空间，为了便于使用计算机
实现多分辨率分析，需要对分解系数进行离散化处理。对于能量有限的信号，采用有限精度分解方
法，如下式所示：
j0
f ( ) t = å k ∈ Z c j0，k ∙ϕ j0，k ( ) t + å j = 1å k ∈ Z d ∙ψ j，k ( ) t （12）
j，k
— 463 —