文章信息
- 吴德运 , 黄崇超 . 2016
- WU Deyun, HUANG Chongchao . 2016
- 凸约束变分不等式的基于LQP方法的算法
- An LQP-Based Method for Solving a Class of Convex Constrained Variational Inequalities
- 武汉大学学报(理学版), 2016, 62(5): 477-482
- Journal of Wuhan University(Natural Science Edition), 2016, 62(5): 477-482
- http://dx.doi.org/10.14188/j.1671-8836.2016.05.012
-
文章历史
- 收稿日期:2015-11-03
定义1(单调)[1] 如果映射H:D⊆Rn在D0⊆D上满足
则称H在D0上单调.
定义2(Slater约束规格)[2] 对于凸优化问题
若存在x∈relint D,这里relint D是D的相对内部,
(1) |
则称优化问题满足Slater约束规格.
考虑变分不等式问题VI(Ω,F),即求x*∈Ω,使
(2) |
Ω={x∈Rn+|g(x)≤0},这里F:Ω→Rn连续单调,g(x)=(g1(x),g2(x),…,g3(x))T,且gi:Rn+→R是可微凸函数.
易证x*是变分不等式问题VI(Ω,F)的解的充分必要条件是x*是问题
(3) |
在(3)中消去μ*,问题归结为求互补问题
(4) |
令ω=(x,λ)T,
(5) |
本文将设计算法求解变分不等式(5),文献[3]在G(ω)单调并且零点存在时,通过添加一个临近正则项ω-ωk,将求变分不等式(5)转化为求解方程组
(6) |
其中ξk是一个误差序列,满足
当G(ω)在Rn+×Rm+上零点不存在时,需要对临近点算法做一些改进,通常的做法是使用一个非线性项φ(ω,ωk)替换ω-ωk,文献[4]中作者采用了正则项ω-ωk+μ(ω-Ω2kω-1),Ωk= diag(ωk1,ωk2,…,ωkn+m),ω-1=(ω-11,ω-12,ω-1n+m)T,它是函数f的梯度
这种方法被称为“对数二次临近点” (logrithmic-quadratic proximal,LQP)方法[5].若ωk+1是新产生的点,则必为内点.算法满足
文献[6~8]中假设向量值函数G(ω)各分量为单调函数,据此给出基于LQP方法的交替方向法.本文只证明了G(ω)在Rn+×Rm+中单调,虽不满足各分量均为单调函数,但可以参考它们对参数的处理方法,算法中用对角矩阵R替换ηk,由于R的对角元素可以不同,比用单一ηk更加灵活.另外我们在算法中使用了预测——校正技术[9, 10],证明了算法每一步都是可行的,并且只要初始点ω0>0,算法都将收敛于变分不等式(5)的解,下面是具体的算法.
1) 初始化:给定ε>0,μ∈(0,+∞),ω0=(x0,λ0)T>0,令k:=0;
2) 预估:求解下列方程组得到解
(7) |
R,S为适当选取的正定对角矩阵,
3) 收敛性检验:如果
4) 校正:取θ>0,求解下列方程组得到解ωk+1=((xk+1)T,(λk+1)T)T
(8) |
令k:=k+1,返回第一步.
引理1 假设R=diag(r1,r2,…,rn)为正定对角矩阵,向量函数q(u)在Rn+上关于u单调,对于任意的μ>0,uk=(uk1,uk2,…,ukn)T>0,如果Uk=diag(uk1,uk2,…,ukn),那么方程组
有且仅有惟一正解u.对于任意的v≥0
证 第一个结论在文献[4]的推论2中有详细论证,这里略过证明.后面部分证明如下
引理2 G(ω)在Rn×Rm+上关于ω单调.
证 对于ω1,ω2∈Rn×Rm+
故G(ω)在Rn×Rm+上关于ω单调.
定理1 若ωk>0,则预估方程组(7)存在惟一正解
证 由引理 2知G(ω)在Rn+×Rm+上单调,应用引理 1可知,方程组(7)存在惟一正解.同理,方程组(8)是(7)的特殊情况,所以也存在惟一正解.
这样我们就证明了算法的每一步都可以惟一确定,下面我们来证明算法的收敛性.
定理2 给定ωk>0,
这里
证 对于方程组(7)令
(9) |
对于方程组(8)令
(10) |
由不等式组(10)可知
(11) |
因为
(12) |
又因为
(13) |
由不等式(9)和等式(13)得到
(14) |
这里〈x,y〉=xTMy,x,y∈Rn.结合不等式(12)和(14)由不等式(11)得:
令
(15) |
时取得最大值,下面证明Ψ(θ*)具有有限下界
定理3 给定ωk>0,由预估方程组(7)产生
证 应用Cauchy-Schwarz不等式得
并且
(16) |
所以
(17) |
由不等式(16)和(17)得
(18) |
定理4 给定ωk>0,ω*是变分不等式(5)的解,ωk是预估方程组(7)的解,ωk+1是校正方程组(8)的解,则
这里
证 由定理2和定理 3显然有
(19) |
因为ρ>0,因此得到
(20) |
所以序列{ωk}有界.由不等式(19)得
因此
又因为{ωk}有界,所以{
定理5 由算法产生的序列{ωk}收敛于变分不等式问题(5)的一个解.
证 由定理1可知,
整理上式,并应用Cauchy-Schwarz不等式得
(21) |
由定理 4知,
是它的一个收敛子列,那么ω∞≥0,由不等式(21)可知
因此ω∞是变分不等式(5)的一个解.又因为
所以对于ε>0,分别存在N1,N2∈N+使得当k>N1和ki>N2时分别有
对上述ε,存在N=N1+N2,对于任意的k>N,令k>ki>max{N1,N2}并结合不等式(20)得
故{ωk}收敛于变分不等式问题(5)的解ω∞.
2 数值结果我们接下来通过数值实验来验证算法确实是可行的. 例1 Fx=2Ax-2b,其中A∈Rn×n为一对称正定矩阵,b∈Rn为一向量,考虑变分不等式问题.求x*∈Ω使得
为了测试上述结论的正确性,取μ=s=0.25,θ=0.8,λ0=1.A=(aij)n×n和R=(rij)n×n为对角矩阵,b和x0为n维列向量,它们的元素值在{1,2}中随机取得,精度ε=1.0×10-8.
预估步可以使用matlab中的solve和fsolve函数求解方程组(7),fsolve使用数值方法求解方程组,每次只能求出一组与初始值有关的解.当这组解不满足迭代条件时,可以使用solve函数求方程组(7)的解析解,solve函数使用符号运算,可以求出方程组的所有解,但是求解速度比fsolve慢.在校正步中,由于
这里
n | 预估步求解析解或数值解 | 预估步求解析解 | ||
迭代次数 | 程序运行时间/s | 迭代次数 | 程序运行时间/s | |
1 | 5 | 9.158807 | 5 | 39.158807 |
2 | 17 | 17.184336 | 22 | 84.899419 |
5 | 27 | 21.686879 | 30 | 121.867827 |
50 | 63 | 120.234096 | 55 | 178.211716 |
200 | 144 | 352.221893 | 106 | 308.755732 |
1000 | 275 | 1789.348995 | 227 | 1399.348972 |
[1] | ORTEGA J M, RHEINBOLDT W C. Iterative Solution of Nonlinear Equations in Several Variables.[M] New York-London: Academic Press, 1970 . |
[2] | BOYD S, VANDENBERGH L. Convex Optimization.[M] New York: Cambridge University Press, 2009 . |
[3] | AUSLENDER A, TEBOULLE M. Lagrangian duality and related multiplier methods for variational inequality problems[J]. Siam Journal on Optimization , 2000, 10 (4) : 1097–1115 DOI:10.1137/S1052623499352656 |
[4] | HE B S, LIAO L Z, HAN D R, et al. A new inexact alternating directions method for monotone variational inequalities[J]. Mathematical Programming , 2002, 92 (1) : 103–118 DOI:10.1007/s101070100280 |
[5] | AUSLENDER A, TEBOULLE M, BEN-TIAB S. A logarithmic-quadratic proximal method for variational inequalities[J]. Computational Optimization&Applications , 1999, 12 (1-3) : 31–40 |
[6] | YUAN X M. The prediction-correction approach to nonlinear complementarity problems[J]. European Journal of Operational Research , 2007, 176 (3) : 1357–1370 DOI:10.1016/j.ejor.2005.11.006 |
[7] | YUAN X M, LI M. An LQP-based decomposition method for solving a class of variational inequalities[J]. Siam Journal on Optimization , 2011, 21 (4) : 1309–1318 DOI:10.1137/070703557 |
[8] | BNOUHACHEM A, XU M H. An inexact LQP alternating direction method for solving a class of structured variational inequalities[J]. Computers&Mathematics with Applications , 2014, 67 (3) : 671–680 |
[9] | NOOR M A. Some developments in general variational inequalities[J]. Applied Mathematics&Computation , 2004, 155 (1) : 199–277 |
[10] | FACCHINEI F, PANG J S. Finite-Dimensional Variational Inequalities and Complementarity Problems Vol.[M] New York: Springer-Verlag, 2003 . |
[11] | 周亚南. 非线性代数方程组的一种数值解法[J]. 应用数学进展 , 2014, 3 (2) : 91–97 DOI:10.12677/AAM.2014.32014 ZHOU Y N. A numerical method for solving the nonlinear algebraic equations[J]. Advances in Applied Mathematics , 2014, 3 (2) : 91–97 |