一类带变换${\ell }_1$罚函数的正则化问题的强度量次正则研究

Study on the Strong Metric Subregularity for a Class of Regularization Problems with Transformed ${\ell }_1$ Penalty Function

摘要: 本文研究一类带变换ℓ1罚函数的正则化问题，该模型的目标函数由损失函数和变换ℓ1罚函数两部分组成，其中损失函数是二次可微函数，变换ℓ1罚函数是一个非凸函数。本文首先研究变换ℓ1罚函数的邻近次微分和极限次微分，然后利用变换ℓ1罚函数的次微分表达式和集值映射的图像导数工具得到了该类问题目标函数的次微分的图像导数，最后利用该图像导数表达式分别建立了该正则化问题的强度量次正则的一个充分条件和充要条件。

Abstract: This paper studies the regularization problem for a class of penalty functions with transformedℓ1. The objective function of the model consists of two parts: the loss function and the transformedℓ1penalty function, where the loss function is a quadratic differentiable function and the transformedℓ1penalty function is a nonconvex function. This article first studies the proximal subdifferentials and limiting subdifferentials of the transformedℓ1penalty function. Then, by the subdifferential expression of the transformedℓ1penalty function and graphical derivative tool for set-value mapping, we obtain the graphical derivative of the subdifferentials of the objective function. Finally, using the graphical derivative expression, we establish a sufficient condition, a necessary and sufficient condition of the strong metric subregularity for the regularization problem.

1. 引言

本文考虑如下带变换 ${\mathcal{l}}_1$ 罚函数的正则化问题：

$\underset{x\in {ℝ}^n}{\text{minimize}}Z\left(x\right)=\mathcal{l}\left(x\right)+P\left(x\right),$ (1)

其中 $\mathcal{l}\left(x\right)$ 是二次可微函数， $P\left(x\right)$ 是变换 ${\mathcal{l}}_1$ 惩罚函数。

罚函数是解决非线性规划问题的重要手段，如今利用罚函数解决优化问题的文章有很多，目的是将有约束问题转换成无约束问题。变换 ${\mathcal{l}}_1$ 惩罚函数(简称TL1罚)是由Nikolova [1] 提出来的，形式如下：

$P\left(x\right)={\displaystyle \underset{j=1}{\overset{n}{\sum }}\frac{\left(a_j+1\right)\left|x_j\right|}{a_j+\left|x_j\right|}},其中a_j>0.$

压缩感知 [2] 在数学、统计学、信息科学和其他领域被广泛研究，其中一个基本的问题是在一些远小于信号环境空间尺寸的线性测量(线性约束)下重建一个稀疏信号，最直接的方法是进行 ${\mathcal{l}}_{\text{0}}$ 优化，但是优化 ${\mathcal{l}}_{\text{0}}$ 范数是NP-hard的，因此已经寻找了许多可行的替代方案。变量选择在高维数据分析中起着非常重要的作用，对于惩罚函数的选择，Fan和Li [3] 提出一个好的惩罚函数应该具有无偏性、稀疏性和连续性，Lipschitz连续函数的一个特殊的单参数族，即变换 ${\mathcal{l}}_1$ 函数，满足这三个期望性质 [4] ，该函数的近端算子对参数 $a_j$ 的所有值都有封闭形式的解析解，并且通过调整参数 $a_j$ ，TL1可以很好地近似于 ${\mathcal{l}}_{\text{0}}$ 和 ${\mathcal{l}}_1$ ，这些性质让该函数在许多优化问题中得到了广泛应用。

正则化的应用不仅限于机器学习，也广泛用于线性代数理论中，用于处理不适定问题，即那些由条件数很大的方程组定义的问题。在正则化模型的成本函数中加入一个惩罚项，这样可以控制模型的复杂度，防止模型过拟合，降低结构风险，提高模型的泛化能力。对于带变换 ${\mathcal{l}}_1$ 罚函数的正则化问题，2014年，Zhang和Xin [5] 研究了在 ${\mathcal{l}}_{\text{0}}$ 最优解的精确稳定恢复中TL1惩罚和TL1正则化问题的理论性质，并且利用广义零空间性质和明确的例子，证明了TL1相对于 ${\mathcal{l}}_1$ 在线性约束下精确恢复方面的优势；2016年，Zhang和Xin [6] 推导了在参数 $a_j$ 的任意正值下最优解的封闭形式。2017年，Ahn，Pang和Xin [7] 研究了TL1正则化问题的最优性条件，并且提出了TL1罚的凸差分解模型；Zhang [8] 将TL1罚扩展到TS1(变换Schatten-1)用于低秩矩阵补全，并与其他几种先进的方法进行了比较。2018年，Guo，Li和Liu [9] 研究了TL1最优化的稀疏重组的性质，并给出了关于从欠采样测量中重建的可恢复性和准确性改进的理论结果。2019年，Ma和Miao等人 [10] 将TL1正则化方法应用于稀疏深度神经网络学习。

图像导数 [11] [12] [13] [14] [15] 是变分分析及其应用中的一类工具，它主要用来刻画集值映射的广义微分性质。图像导数可以用来刻画集值映射的稳定性，如度量正则 [16] ，Lipschitz性 [16] ，二阶增长条件 [11] ，度量次正则 [12] [17] 和强度量次正则 [18] 。次微分映射作为一个集值映射，它的强度量次正则可以看作是二次连续可微函数的Hessian矩阵非奇异条件的一个推广，它作为一种稳健的稳定性条件，在非凸优化一阶下降算法全局收敛性和收敛率分析中起了非常重要的作用，近几年它得到了许多学者的关注和研究。2021年，Chieu [18] 利用次微分图像导数研究了有限维条件下次微分的二阶增长条件与强度量次正则性之间的关系。2022年，Bello-Cruz等人 [11] 研究了 ${\mathcal{l}}_1$ 正则优化问题，然后通过计算该模型中后者的次微分图像导数建立了该问题的强二阶增长条件。本文研究的带变换 ${\mathcal{l}}_1$ 罚函数的正则化问题在统计学习、信号处理和图像处理等领域有广泛的应用，但到目前为止，该问题的强度量次正则还没有学者进行研究，而强度量次正则在该类非凸问题的一阶下降算法收敛性分析中起着非常重要的作用。本文将借鉴文献 [11] 、文献 [16] 和文献 [18] 中研究强度量次正则 [19] [20] [21] [22] 的方法来研究问题(1)的强度量次正则，分别建立问题(1)的强度量次正则的充分条件和充要条件，为该类问题的非凸算法提供理论分析保障。

本文的结构框架如下：在第二节中主要介绍了邻近次微分和极限次微分的定义 [23] [24] ，以及主要的引理。第三节首先求出了变换 ${\mathcal{l}}_1$ 罚函数的邻近次微分和极限次微分表达式，然后利用集值映射的图像导数工具求出变换 ${\mathcal{l}}_1$ 罚函数的次微分图像导数表达式，最后利用该表达式建立了正则化问题(1)的强度量次正则的充分条件和充要条件。

2. 预备知识

本文， $ℝ$ 表示实数集， ${ℝ}^n$ 是n维欧式空间， $\Vert \cdot \Vert$ 表示 ${ℝ}^n$ 中的范数， $\langle \cdot ,\cdot \rangle$ 表示 ${ℝ}^n$ 中的内积。 ${\mathbb{B}}_{\epsilon }\left(0\right)$ 表

示以0为圆心， $\epsilon$ 为半径的球。 $\mathcal{l}:{ℝ}^n\to ℝ$ 是二次可微连续函数， ${\left(\nabla \mathcal{l}(\cdot )\right)}_j$ 表示该梯度的第j个元素， ${\left({\nabla }^2\mathcal{l}(\cdot )\right)}_{i,j}$ 表示该Hessian矩阵的第i行，第j列元素。集值映射 $F:{ℝ}^n\rightrightarrows {ℝ}^m$ ，集值映射F的逆映射

$F^{-1}:{ℝ}^m\rightrightarrows {ℝ}^n$ 定义为： $F^{-1}\left(y\right)=\left\{x|y\in F\left(x\right)\right\}$ ，F的有效域 $domF:=\left\{x\in {ℝ}^n|F\left(x\right)\ne \varnothing \right\}$ ，F的图 $gphF:=\left\{\left(x,y\right)\in {ℝ}^n\times {ℝ}^m|y\in F\left(x\right)\right\}$ 。 $sgn:ℝ\to \left\{-1,1\right\}$ 是符号函数。 $d\left(x,\Omega \right)$ 表示点 $x\in {ℝ}^n$ 到集合 $\Omega \subset {ℝ}^n$ 的距离。

定义2.1 [23] 设 $x\in {ℝ}^n$ ，对于函数 $g:{ℝ}^n\to ℝ$ 和向量 $v\in {ℝ}^n$ ，如果存在 $\rho >0$ 和x的一个邻域V，使得对于任意的 $y\in V$ 有

$g\left(y\right)\ge g\left(x\right)+\langle v,y-x\rangle -\rho {\Vert y-x\Vert }^2,$

则称v是函数g在x处的邻近次梯度。由这样的v构成的集合称为g在x处的邻近次微分，记作 ${\partial }_{p}g\left(x\right)$ 。

定义2.2 [23] 函数 $g:{ℝ}^n\to ℝ$ 在 $x\in {ℝ}^n$ 处的极限次微分定义如下：

$\partial g\left(x\right):=\left\{v\in {ℝ}^n:v_k\to v,v_k\in {\partial }_{p}g\left(x_k\right),x_k\stackrel{g}{\to }x\right\}.$

其中 $x_k\stackrel{g}{\to }x$ 表示 $x_k\to x$ 和 $g\left(x_k\right)\to g\left(x\right)$ 。

定义2.3 [16] 设 $\Omega$ 是 ${ℝ}^n$ 的一个非空子集， $\bar{x}\in \Omega$ ，

$T_{\Omega }\left(\bar{x}\right):=\left\{v\in {ℝ}^n|\exists t_k\downarrow 0,v_k\to v满足\bar{x}+t_k{v}_k\in \Omega ,\forall k\in \mathbb{N}\right\},$

称为在 $\bar{x}\in \Omega$ 处对于集合 $\Omega$ 的(Bouligand-Severi)切锥。

定义2.4 [16] 考虑集值映射 $F:{ℝ}^n\rightrightarrows {ℝ}^m$ ，F的有效域为 $domF:=\left\{x\in {ℝ}^n|F\left(x\right)\ne \varnothing \right\}$ ，并且F的图为 $gphF:=\left\{\left(x,y\right)\in {ℝ}^n\times {ℝ}^m|y\in F\left(x\right)\right\}$ 。设 $\left(\bar{x},\bar{y}\right)\in gphF$ ，以及 $gphF$ 在 $\left(\bar{x},\bar{y}\right)$ 处的切锥为 $T_{gphF}\left(\bar{x},\bar{y}\right)$ 。那么F在 $\left(\bar{x},\bar{y}\right)$ 处的图像导数是集值映射 $DF\left(\bar{x}|\bar{y}\right):{ℝ}^n\rightrightarrows {ℝ}^m$ ，定义为

$DF\left(\bar{x}|\bar{y}\right)\left(w\right):=\left\{z\in {ℝ}^m|\left(w,z\right)\in T_{gphF}\left(\bar{x},\bar{y}\right)\right\},w\in {ℝ}^n.$

这意味着 $gphDF\left(\bar{x}|\bar{y}\right)=T_{gphF}\left(\bar{x},\bar{y}\right)$ 。

$v\in DF\left(x|y\right)\left(u\right)\iff \left(u,v\right)\in T_{gphF}\left(x,y\right).$

因此， $v\in DF\left(x|y\right)\left(u\right)$ 当且仅当存在一个序列 $u^k\to u$ ， $v^k\to v$ 和 ${\tau }^k\searrow 0$ 使得对于任意的k有

$y+{\tau }^k{v}^k\in F\left(x+{\tau }^k{u}^k\right).$

定义2.5 [16] 映射 $F:{ℝ}^n\rightrightarrows {ℝ}^m$ ，如果 $\left(\bar{x},\bar{y}\right)\in gphF$ 并且存在 $k\ge 0$ 以及 $\bar{x}$ 的一个邻域U和 $\bar{y}$ 的一个邻域V，使得

$\Vert x-\bar{x}\Vert \le kd\left(\bar{y},F\left(x\right)\cap V\right),\forall x\in U.$

那么称映射F在 $\left(\bar{x},\bar{y}\right)$ 处是强度量次正则的。

引理2.6 [16] 集值映射 $F:{ℝ}^n\rightrightarrows {ℝ}^m$ 在 $\left(\bar{x},\bar{y}\right)\in gphF$ 是局部闭的，F在 $\left(\bar{x},\bar{y}\right)$ 是强度量次正则的当且仅当

$DF{\left(\bar{x}|\bar{y}\right)}^{-1}\left(0\right)=\left\{0\right\}.$

引理2.7 [16] 对于在x处可微的函数 $f:{ℝ}^n\to {ℝ}^m$ ，一个集值映射 $F:{ℝ}^n\rightrightarrows {ℝ}^m$ 和任意的 $y\in F\left(x\right)$ ，有

$D\left(f+F\right)\left(x|f\left(x\right)+y\right)=Df\left(x\right)+DF\left(x|y\right).$

3. 带变换 ${\mathcal{l}}_1$ 函数正则化问题次微分的强度量次正则

本节首先根据变换 ${\mathcal{l}}_1$ 函数的结构和邻近次微分的性质，计算出该函数的邻近次微分，然后根据邻近次微分和极限次微分的关系求得该函数的极限次微分，进而求得变换 ${\mathcal{l}}_1$ 罚函数次微分的图像导数表达式，以此为基础，再利用次微分的运算法则和图像导数的计算公式，最后建立了带变换 ${\mathcal{l}}_1$ 罚函数的正则化问题的强度量次正则的充分条件和充要条件。

命题3.1 变换 ${\mathcal{l}}_1$ 函数的邻近次微分表达式：

${\partial }_{p}P\left(x\right)=\left\{s\in {ℝ}^n|\begin{array}{ll}{s}_j=\frac{a\left(a+1\right)}{{\left(a+\left|x_j\right|\right)}^2}sgn\left(x_j\right)\hfill & 如果x_j\ne 0\hfill \\ s_j\in \left[-\frac{a+1}{a},\frac{a+1}{a}\right]\hfill & 如果x_j=0\hfill \end{array}\right\}.$

证明 因为 $P\left(x\right)$ 是可分离变量的函数。首先设 $g\left(t\right)=\frac{\left(a+1\right)\left|t\right|}{a+\left|t\right|}$ ，由于 $g\left(t\right)$ 在 $t\ne 0$ 是可微的，在 $t=0$ 处是不可微的。那么当 $t\ne 0$ ，求出 $g\left(t\right)$ 的次微分为 $\left\{\frac{a\left(a+1\right)}{{\left(a+\left|t\right|\right)}^2}sgn\left(t\right)\right\}$ 。当 $t=0$ 时，由定义2.1，存在y属于t的一个邻域V和 $\rho \ge \frac{a+1}{a^2}$ ，它在 $t=0$ 处的邻近次微分计算如下：

$g\left(y\right)\ge g\left(0\right)+\langle v,y-0\rangle -\rho {\Vert y-0\Vert }^2,$

$\frac{\left(a+1\right)\left|y\right|}{a+\left|y\right|}-vy+\rho {\Vert y\Vert }^2\ge 0,$

$\frac{\left(a+1\right)\left|y\right|}{a+\left|y\right|}+\rho {\Vert y\Vert }^2\ge vy.$

当 $y>0$ 时，有

$\frac{\left(a+1\right)\left|y\right|}{a+\left|y\right|}\times \frac{1}{y}+\rho {\Vert y\Vert }^2\times \frac{1}{y}\ge v,$

$\frac{a+1}{a+y}+\rho y\ge v.$

令 $z\left(y\right)=\frac{a+1}{a+y}+\rho y$ ，要求出其最小值，先求

$z^{\prime }\left(y\right)=\frac{-\left(a+1\right)}{{\left(a+y\right)}^2}+\rho ,z^{″}\left(y\right)=\frac{2\left(a+1\right)}{{\left(a+y\right)}^3}.$

由此可以得到 $z^{″}\left(y\right)>0$ ，那么 $z^{\prime }\left(y\right)$ 在 $\left(0,+\infty \right)$ 内是单调递增的，且 $z^{\prime }\left(y\right)$ 的最小值在 $y\to 0^{+}$ 时取得，则有

$z^{\prime }{\left(y\right)}_{\min }=\underset{y\to 0^{+}}{\lim }\left(\frac{-\left(a+1\right)}{{\left(a+y\right)}^2}+\rho \right)=\frac{-\left(a+1\right)}{a^2}+\rho .$

又因为 $\rho \ge \frac{a+1}{a^2}$ ，那么 $z^{\prime }{\left(y\right)}_{\min }\ge 0$ ，所以 $z\left(y\right)$ 在 $\left(0,+\infty \right)$ 内是单调递增的，则 $z{\left(y\right)}_{\min }=\frac{a+1}{a}$ 。故有 $v\le \frac{a+1}{a}$ 。

当 $y<0$ 时，有

$-\frac{a+1}{a-y}+\rho y\le v.$

令 $h\left(y\right)=-\frac{a+1}{a-y}+\rho y$ ，要求其最大值，首先求得

$h^{\prime }\left(y\right)=\frac{-\left(a+1\right)}{{\left(a-y\right)}^2}+\rho ,h^{″}\left(y\right)=-\frac{2\left(a+1\right)}{{\left(a-y\right)}^3}.$

同理可得，由于 $\rho \ge \frac{a+1}{a^2}$ ，则有 $v\ge -\frac{a+1}{a}$ 。

综上所述， $g\left(t\right)$ 在 $t=0$ 处的邻近次微分为 $\left[-\frac{a+1}{a},\frac{a+1}{a}\right]$ 。那么 $P\left(x\right)$ 在 $x_j=0$ 处的邻近次微分为 $\left[-\frac{a+1}{a},\frac{a+1}{a}\right]$ 。且当 $x_j\ne 0$ 时， $P\left(x\right)$ 的次微分为 $\left\{\frac{a\left(a+1\right)}{{\left(a+\left|x_j\right|\right)}^2}sgn\left(x_j\right)\right\}$ 。

命题3.2 变换 ${\mathcal{l}}_1$ 函数的极限次微分表达式：

$\partial P\left(x\right)=\left\{s\in {ℝ}^n|\begin{array}{ll}{s}_j=\frac{a\left(a+1\right)}{{\left(a+\left|x_j\right|\right)}^2}sgn\left(x_j\right)\hfill & 如果x_j\ne 0\hfill \\ s_j\in \left[-\frac{a+1}{a},\frac{a+1}{a}\right]\hfill & 如果x_j=0\hfill \end{array}\right\}.$

证明 由定义2.2以及邻近次微分和极限次微分的关系，容易得到函数 $P\left(x\right)$ 的极限次微分表达式。

为了求 $\partial P$ 的图像导数表达式，设 $\bar{s}\in \partial P\left(x^{*}\right)$ ，并引出以下记号：

$\begin{array}{l}I:=\left\{j\in \left\{1,\cdots ,n\right\}|0\le \left|{\bar{s}}_j\right|<\frac{a+1}{a}\right\},\\ M:=\left\{j\in \left\{1,\cdots ,n\right\}|\left|{\bar{s}}_j\right|=\frac{a+1}{a}\right\},\\ J:=\left\{j\in I|x_j^{*}\ne 0\right\},\\ K:=\left\{j\in I|x_j^{*}=0\right\},\\ H\left(x^{*}\right):=\left\{u\in {ℝ}^n|u_j{\bar{s}}_j\ge 0,j\in M和u_j=0,j\in K\right\}.\end{array}$

命题3.3 ( $\partial P$ 的图像导数) $D\partial P\left(x^{*}|\bar{s}\right)\left(u\right)$ 是非空的当且仅当 $u\in H\left(x^{*}\right)$ 。且对于所有的 $u\in H\left(x^{*}\right)$ ，有

$D\partial P\left(x^{*}|\bar{s}\right)\left(u\right)=\left\{v\in {ℝ}^n|\begin{array}{ll}{\bar{s}}_j{v}_j\le 0,u_j=0或v_j=\frac{-2\left(a+1\right)u_j}{a^2},\hfill & j\in M\hfill \\ v_j=\frac{-2a\left(a+1\right)u_j}{{\left(a+\left|x_j^{*}\right|\right)}^3},\hfill & j\in J\hfill \end{array}\right\}.$ (2)

证明 由命题3.2，对于任意的 $x\in {ℝ}^n$ ，都有：

$\partial P\left(x\right)=\left\{s\in {ℝ}^n|\begin{array}{ll}{s}_j=\frac{a\left(a+1\right)}{{\left(a+\left|x_j\right|\right)}^2}sgn\left(x_j\right)\hfill & 如果x_j\ne 0\hfill \\ s_j\in \left[-\frac{a+1}{a},\frac{a+1}{a}\right]\hfill & 如果x_j=0\hfill \end{array}\right\}.$ (3)

取任意的 $v\in D\partial P\left(x^{*}|\bar{s}\right)\left(u\right)$ ，则存在序列 $t^k\downarrow 0$ 和 $\left(u^k,v^k\right)\to \left(u,v\right)$ ，使得

$\bar{s}+t^k{v}^k\in \partial P\left(x^{*}+t^k{u}^k\right).$

下面分类讨论：

情形1.1 $j\in M$ ，即 $\left|{\bar{s}}_j\right|=\frac{a+1}{a}$ 。由(3)式有 $x_j^{*}=0$ 。若有一个 ${\left(x^{*},\bar{s}\right)}_j+t^k{\left(u^k,v^k\right)}_j$ 的子序列使得

$\left|{\left(\bar{s}+t^k{v}^k\right)}_j\right|=\frac{a\left(a+1\right)}{{\left(a+\left|x_j^{*}+t^k{u}_j^k\right|\right)}^2}<\frac{a+1}{a}=\left|{\bar{s}}_j\right|,$

则有 ${\bar{s}}_j{v}_j^k<0$ 。当 $k\to \infty$ ，有 ${\bar{s}}_j{v}_j\le 0$ 。

并且，当 ${\left(\bar{s}+t^k{v}^k\right)}_j=\frac{a\left(a+1\right)}{{\left(a+\left|x_j^{*}+t^k{u}_j^k\right|\right)}^2}$ 时，求得

$v_j^k=\frac{-2a\left(a+1\right)u_j^k-\left(a+1\right)t^k{\left(u_j^k\right)}^2}{a{\left(a+t^k{u}_j^k\right)}^2}.$

当 $k\to \infty$ ，有 $v_j=\frac{-2\left(a+1\right)u_j}{a^2}$ 。

当 ${\left(\bar{s}+t^k{v}^k\right)}_j=-\frac{a\left(a+1\right)}{{\left(a+\left|x_j^{*}+t^k{u}_j^k\right|\right)}^2}$ 时，求得

$v_j^k=\frac{-2a\left(a+1\right)u_j^k+\left(a+1\right)t^k{\left(u_j^k\right)}^2}{a{\left(a-t^k{u}_j^k\right)}^2}.$

当 $k\to \infty$ ，有 $v_j=\frac{-2\left(a+1\right)u_j}{a^2}$ 。此外，再由(3)式有

$sgn{\bar{s}}_j=sgn{\left(\bar{s}+t^k{v}^k\right)}_j=sgn{\left(x^{*}+t^k{u}^k\right)}_j=sgn\left(u_j^k\right).$

当 $k\to \infty$ ，有 ${\bar{s}}_j{u}_j\ge 0$ 。

否则，存在 $L>0$ ，对所有的 $k>L$ 有 $\left|{\left(\bar{s}+t^k{v}^k\right)}_j\right|=\frac{a+1}{a}=\left|{\bar{s}}_j\right|$ 。则 $v_j^k=0$ ，当 $k\to \infty$ ，有 $v_j=0$ 。那么

${\bar{s}}_j{v}_j=0$ 。再由(3)式有

$0={\left(x^{*}+t^k{u}^k\right)}_j=t^k{u}_j^k,即u_j^k=0.$

当 $k\to \infty$ ，则有 $u_j=0$ 。

情形1.2 $j\in K$ ，即 $0\le \left|{\bar{s}}_j\right|<\frac{a+1}{a}$ ， $x_j^{*}=0$ 。

当 ${\bar{s}}_j=0$ ， $x_j^{*}=0$ 时。存在足够大的常数 $L>0$ ，当 $k>L$ 时，存在 $\epsilon >0$ 使得 $\left|{\left(\bar{s}+t^k{v}^k\right)}_j\right|\in {\mathbb{B}}_{\epsilon }\left(0\right)$ 。由 式有 ${\left(x^{*}+t^k{u}^k\right)}_j=0$ 或 $\left|{\left(x^{*}+t^k{u}^k\right)}_j\right|\to \infty$ 。当 ${\left(x^{*}+t^k{u}^k\right)}_j=0$ 时，有 $u_j^k=0$ 。当 $k\to \infty$ ，有 $u_j=0$ 。当 $\left|{\left(x^{*}+t^k{u}^k\right)}_j\right|\to \infty$ 时，对于 ${\left(x^{*}+t^k{u}^k\right)}_j$ ，因为 $t^k\downarrow 0$ ，所以它是有界的。故矛盾。

当 $0<\left|{\bar{s}}_j\right|<\frac{a+1}{a}$ ， $x_j^{*}=0$ 时。对于足够大的k，有

$0<\left|{\left(\bar{s}+t^k{v}^k\right)}_j\right|=\frac{a\left(a+1\right)}{{\left(a+\left|x_j^{*}+t^k{u}_j^k\right|\right)}^2}\le \frac{a+1}{a}.$

那么当 ${\left(x^{*}+t^k{u}^k\right)}_j\ne 0$ 时，

${\left(\bar{s}+t^k{v}^k\right)}_j=-\frac{a\left(a+1\right)}{{\left(a-t^k{u}_j^k\right)}^2}或\frac{a\left(a+1\right)}{{\left(a+t^k{u}_j^k\right)}^2}.$

当 $k\to \infty$ ，有 $\left|{\bar{s}}_j\right|=\frac{a+1}{a}$ 。故矛盾。

当 ${\left(x^{*}+t^k{u}^k\right)}_j=0$ 时，有 ${\left(\bar{s}+t^k{v}^k\right)}_j\in \left[-\frac{a+1}{a},\frac{a+1}{a}\right]$ 。那么 $u_j^k=0$ ，当 $k\to \infty$ ，有 $u_j=0$ 。

情形1.3 $j\in J$ ，即 $0<\left|{\bar{s}}_j\right|<\frac{a+1}{a}$ 和 $x_j^{*}\ne 0$ 。

如果有一个 ${\left(x^{*},\bar{s}\right)}_j+t^k{\left(u^k,v^k\right)}_j$ 的子序列使得

$\left|{\left(\bar{s}+t^k{v}^k\right)}_j\right|=\frac{a\left(a+1\right)}{{\left(a+\left|x_j^{*}+t^k{u}_j^k\right|\right)}^2}<\frac{a+1}{a}.$

当 $x_j^{*}>0$ 时，有 ${\bar{s}}_j=\frac{a\left(a+1\right)}{{\left(a+x_j^{*}\right)}^2}$ 。那么可以得到 ${\left(\bar{s}+t^k{v}^k\right)}_j=\frac{a\left(a+1\right)}{{\left(a+x_j^{*}+t^k{u}_j^k\right)}^2}$ 。由此求得

$v_j^k=\frac{-2a\left(a+1\right)\left(a+x_j^{*}\right)u_j^k-a\left(a+1\right)t^k{\left(u_j^k\right)}^2}{{\left(a+x_j^{*}+t^k{u}_j^k\right)}^2{\left(a+x_j^{*}\right)}^2}.$

那么当 $k\to \infty$ ，有 $v_j=\frac{-2a\left(a+1\right)u_j}{{\left(a+x_j^{*}\right)}^3}$ 。

当 $x_j^{*}<0$ 时，有 ${\bar{s}}_j=-\frac{a\left(a-1\right)}{{\left(a+x_j^{*}\right)}^2}$ 。那么有 ${\left(\bar{s}+t^k{v}^k\right)}_j=-\frac{a\left(a+1\right)}{{\left(a-x_j^{*}-t^k{u}_j^k\right)}^2}$ 。由此求得

$v_j^k=\frac{-2a\left(a+1\right)\left(a-x_j^{*}\right)u_j^k+a\left(a+1\right)t^k{\left(u_j^k\right)}^2}{{\left(a-x_j^{*}-t^k{u}_j^k\right)}^2{\left(a-x_j^{*}\right)}^2}.$

当 $k\to \infty$ ，有 $v_j=\frac{-2a\left(a+1\right)u_j}{{\left(a-x_j^{*}\right)}^3}$ 。

那么对于 $j\in J$ 都有 $v_j=\frac{-2a\left(a+1\right)u_j}{{\left(a+\left|x_j^{*}\right|\right)}^3}$ 。

由以上这三种情况的结论，可以得到 $u\in H\left(x^{*}\right)$ ，那么(2)式中的“ $\subseteq$ ”证明完成。

为了证明(2)式中的“ $\supseteq$ ”，任取 $u\in H\left(x^{*}\right)$ 和 $v\in {ℝ}^n$ 满足对于 $j\in M$ ，有 ${\bar{s}}_j{v}_j\le 0$ ， $u_j=0$ 或

$v_j=\frac{-2\left(a+1\right)u_j}{a^2}$ ，对于 $j\in J$ ，有 $v_j=\frac{-2a\left(a+1\right)u_j}{{\left(a+\left|x_j^{*}\right|\right)}^3}$ 。那么对于任意的 $t^k\downarrow 0$ ，就只需要证明

$\bar{s}+t^{k}v\in \partial P\left(x^{*}+t^{k}u\right)$ ，由此便可证明 $v\in D\partial P\left(x^{*}|\bar{s}\right)\left(u\right)$ 。所以对于任意的 $t\in ℝ$ ，定义集值映射：

$SNG\left(t\right):=\{\begin{array}{c}\frac{a\left(a+1\right)}{{\left(a+\left|t\right|\right)}^2}sgn\left(t\right)如果t\ne 0,\\ \left[-\frac{a+1}{a},\frac{a+1}{a}\right]如果t=0.\end{array}$

和(2)式中的“ $\subseteq$ ”证明一样，考虑j的三种情形。

情形2.1 $j\in M$ ，即 $\left|{\bar{s}}_j\right|=\frac{a+1}{a}$ ， $x_j^{*}=0$ 。

当 $u_j=0$ ，有 ${\left(x^{*}+t^{k}u\right)}_j=0$ ， ${\bar{s}}_j{v}_j\le 0$ 。当k足够大时，有 $\left|{\left(\bar{s}+t^{k}v\right)}_j\right|\le \left|{\bar{s}}_j\right|\le \frac{a+1}{a}$ 。

当 $u_j\ne 0$ ，那么有 $v_j=\frac{-2\left(a+1\right)u_j}{a^2}$ 和 ${\left(x^{*}+t^{k}u\right)}_j\ne 0$ 。

当k足够大并且 ${\bar{s}}_j=\frac{a+1}{a}$ 时，有

${\left(\bar{s}+t^{k}v\right)}_j=\frac{a+1}{a}+t^k\frac{-2\left(a+1\right)u_j}{a^2}=\frac{a\left(a+1\right)}{{\left(a+x_j^{*}+t^k{u}_j\right)}^2}sgn\left(x_j^{*}+t^k{u}_j\right).$

当k足够大并且 ${\bar{s}}_j=-\frac{a+1}{a}$ 时，有

${\left(\bar{s}+t^{k}v\right)}_j=-\frac{a+1}{a}+t^k\frac{-2\left(a+1\right)u_j}{a^2}=\frac{a\left(a+1\right)}{{\left(a-\left(x_j^{*}+t^k{u}_j\right)\right)}^2}sgn\left(x_j^{*}+t^k{u}_j\right).$

由此，当 $u_j\ne 0$ 时，都有

${\left(\bar{s}+t^{k}v\right)}_j=\frac{a\left(a+1\right)}{{\left(a+\left|x_j^{*}+t^k{u}_j\right|\right)}^2}sgn\left(x_j^{*}+t^k{u}_j\right).$

对于上述情况，都可以得到 ${\left(\bar{s}+t^{k}v\right)}_j\in SGN{\left(x^{*}+t^{k}u\right)}_j$ 。

情形2.2 $j\in K$ ，即 $0\le \left|{\bar{s}}_j\right|<\frac{a+1}{a}$ ， $x_j^{*}=0$ 和 $u_j=0$ 。

当k足够大时，有 ${\left(x^{*}+t^{k}u\right)}_j=0$ 和 $t^k\downarrow 0$ 。则 ${\left(\bar{s}+t^{k}v\right)}_j\in \left[-\frac{a+1}{a},\frac{a+1}{a}\right]$ ，那么有

${\left(\bar{s}+t^{k}v\right)}_j\in SGN{\left(x^{*}+t^{k}u\right)}_j.$

情形2.3 $j\in J$ ，即 $0<\left|{\bar{s}}_j\right|<\frac{a+1}{a}$ 和 $x_j^{*}\ne 0$ 。

当 $u_j=0$ ，那么有 $v_j=\frac{-2a\left(a+1\right)u_j}{{\left(a+\left|x_j^{*}\right|\right)}^3}=0$ ，当k足够大时，有

${\left(\bar{s}+t^{k}v\right)}_j={\bar{s}}_j=\frac{a\left(a+1\right)}{{\left(a+\left|x_j^{*}\right|\right)}^2}sgn\left(x_j^{*}\right)=\frac{a\left(a+1\right)}{{\left(a+\left|x_j^{*}+t^k{u}_j\right|\right)}^2}sgn\left(x_j^{*}+t^k{u}_j\right).$

当 $u_j\ne 0$ ，当 $x_j^{*}>0$ 时，有 ${\bar{s}}_j=\frac{a\left(a+1\right)}{{\left(a+x_j^{*}\right)}^2}$ ，那么有

${\left(\bar{s}+t^{k}v\right)}_j=\frac{a\left(a+1\right)}{{\left(a+x_j^{*}\right)}^2}+t^k\frac{-2a\left(a+1\right)u_j}{{\left(a+x_j^{*}\right)}^2}=\frac{a\left(a+1\right)}{{\left(a+x_j^{*}+t^k{u}_j\right)}^2}sgn\left(x_j^{*}+t^k{u}_j\right).$

当 $x_j^{*}<0$ 时，有 ${\bar{s}}_j=-\frac{a\left(a+1\right)}{{\left(a-x_j^{*}\right)}^2}$ ，那么

${\left(\bar{s}+t^{k}v\right)}_j=-\frac{a\left(a+1\right)}{{\left(a-x_j^{*}\right)}^2}+t^k\frac{-2a\left(a+1\right)u_j}{{\left(a-x_j^{*}\right)}^2}=\frac{a\left(a+1\right)}{{\left(a-\left(x_j^{*}+t^k{u}_j\right)\right)}^2}sgn\left(x_j^{*}+t^k{u}_j\right).$

所以，当 $u_j\ne 0$ 时，都有 ${\left(\bar{s}+t^{k}v\right)}_j=\frac{a\left(a+1\right)}{{\left(a+\left|x_j^{*}+t^k{u}_j\right|\right)}^2}sgn\left(x_j^{*}+t^k{u}_j\right)$ 。

由上述情况，都可以得到 ${\left(\bar{s}+t^{k}v\right)}_j\in SGN{\left(x^{*}+t^{k}u\right)}_j$ 。

综上所述，这三种情形都有 $\bar{s}+t^{k}v\in \partial P\left(x^{*}+t^{k}u\right)$ ，因此 $v\in D\partial P\left(x^{*}|\bar{s}\right)\left(u\right)$ 。

为了研究正则化问题(1)的强度量次正则，设 $\mathcal{l}$ 在 $x^{*}$ 处是二次连续可微的，引出以下记号：

$\begin{array}{l}{I}_1:=\left\{j\in \left\{1,\cdots ,n\right\}|0\le \left|{\left(\nabla \mathcal{l}\left(x^{*}\right)\right)}_j\right|<\frac{a+1}{a}\right\},\\ M_1:=\left\{j\in \left\{1,\cdots ,n\right\}|\left|{\left(\nabla \mathcal{l}\left(x^{*}\right)\right)}_j\right|=\frac{a+1}{a}\right\},\\ J_1:=\left\{j\in I_1|x_j^{*}\ne 0\right\},\\ K_1:=\left\{j\in I_1|x_j^{*}=0\right\},\\ \Omega :=M_1\cup J_1,\\ \mathcal{U}:=\left\{u\in {ℝ}^{\Omega \cup K_1}|u_j{\left(\nabla \mathcal{l}\left(x^{*}\right)\right)}_j\le 0,j\in M_1和u_j=0,j\in K_1\right\}.\end{array}$

定理3.4 ( $\partial Z$ 强度量次正则的充分条件)设 $\mathcal{l}$ 在 $x^{*}$ 处是二次连续可微的。定义：

${\mathcal{H}}_{J_1}\left(x^{*}\right):={\left[{\nabla }^2\mathcal{l}{\left(x^{*}\right)}_{i,j}\right]}_{i,j\in J_1}-A_1{\left(x^{*}\right)}_{J_1\times J_1},{\mathcal{H}}_{\Omega }\left(x^{*}\right):={\left[{\nabla }^2\mathcal{l}{\left(x^{*}\right)}_{i,j}\right]}_{i,j\in \Omega }-A_2{\left(x^{*}\right)}_{\Omega \times \Omega },$

其中 $A_1{\left(x^{*}\right)}_{J_1\times J_1}$ 和 $A_2{\left(x^{*}\right)}_{\Omega \times \Omega }$ 都是对角矩阵，并且每个元素都为 $\frac{2a\left(a+1\right)}{{\left(a+\left|x_j^{*}\right|\right)}^3}$ 。

若下面的两个条件中的一个条件成立：

(i) $\ker {\mathcal{H}}_{J_1}\left(x^{*}\right)\cap \mathcal{U}=\left\{0\right\},u_{M_1}=0$ 。

(ii) $\ker {\mathcal{H}}_{\Omega }\left(x^{*}\right)\cap \mathcal{U}=\left\{0\right\}$ 。

那么 $\partial Z$ 在 $\left(x^{*},0\right)$ 处是强度量次正则的。

证明 设 $0\in D\partial Z\left(x^{*}|0\right)\left(u\right)$ ，由引理2.7，有

$D\partial Z\left(x^{*}|0\right)\left(u\right)={\nabla }^2\mathcal{l}\left(x^{*}\right)u+D\partial P\left(x^{*}|-\nabla \mathcal{l}\left(x^{*}\right)\right)\left(u\right).$ (4)

那么可以得到

$0\in {\nabla }^2\mathcal{l}\left(x^{*}\right)\left(u\right)+D\partial P\left(x^{*}|-\nabla \mathcal{l}\left(x^{*}\right)\right)\left(u\right),$

即

$-{\nabla }^2\mathcal{l}\left(x^{*}\right)\left(u\right)\in D\partial P\left(x^{*}|-\nabla \mathcal{l}\left(x^{*}\right)\right)\left(u\right).$

由命题3.3可知，对于所有的 $u\in \mathcal{U}$ ，有

$D\partial P\left(x^{*}|-\nabla \mathcal{l}\left(x^{*}\right)\right)\left(u\right)=\left\{v\in {ℝ}^n|\begin{array}{ll}-\nabla \mathcal{l}\left(x^{*}\right)v_j\le 0,u_j=0或v_j=\frac{-2\left(a+1\right)u_j}{a^2},\hfill & j\in M_1\hfill \\ v_j=\frac{-2a\left(a+1\right)u_j}{{\left(a+\left|x_j^{*}\right|\right)}^3},\hfill & j\in J_1\hfill \end{array}\right\}.$ (5)

(1) 当 $j\in J_1$ 且 $u_{M_1}=0$ 时，显然有 $u_{K_1}=0$ 。由 $j\in J_1$ 有 ${\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j=\frac{2a\left(a+1\right)u_j}{{\left(a+\left|x_j^{*}\right|\right)}^3}$ ，那么可以得到 ${\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j-\frac{2a\left(a+1\right)u_j}{{\left(a+\left|x_j^{*}\right|\right)}^3}=0$ 。则 ${\left({\mathcal{H}}_{J_1}\left(x^{*}\right)u\right)}_j=0$ ，即 ${\mathcal{H}}_{J_1}\left(x^{*}\right)u_{J_1}=0$ 。

由于 ${\mathcal{H}}_{J_1}\left(x^{*}\right)$ 在 $\mathcal{U}$ 上是非奇异的，那么 $u_{J_1}=0$ 。根据引理2.6，可以得到 $\partial Z$ 在 $\left(x^{*},0\right)$ 处是强度量次正则的。

(2) 当 $j\in \Omega$ 时， $u_{K_1}=0$ 。由于 $j\in M_1$ ，有 $x_j^{*}=0$ 。故有 ${\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j=\frac{2a\left(a+1\right)u_j}{{\left(a+\left|x_j^{*}\right|\right)}^3}$ ，那么 ${\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j-\frac{2a\left(a+1\right)u_j}{{\left(a+\left|x_j^{*}\right|\right)}^3}=0$ 。则 ${\left({\mathcal{H}}_{\Omega }\left(x^{*}\right)u\right)}_j=0$ ，即 ${\mathcal{H}}_{\Omega }\left(x^{*}\right)u_{\Omega }=0$ 。

由于 ${\mathcal{H}}_{\Omega }\left(x^{*}\right)$ 在 $\mathcal{U}$ 上是非奇异的，那么 $u_{\Omega }=0$ 。根据引理2.6，可以得到 $\partial Z$ 在 $\left(x^{*},0\right)$ 处是强度量次正则的。

为了建立正则化问题的强度量次正则的充要条件，记号I₁，M₁，J₁，K₁， $\Omega$ 与前面相同，并引入以下记号：

$B{\left(x^{*}\right)}_{J_1\times \Omega }:=\{\begin{array}{ll}{\nabla }^2\mathcal{l}{\left(x^{*}\right)}_{i,j},\hfill & i=j\hfill \\ {\nabla }^2\mathcal{l}{\left(x^{*}\right)}_{i,j}-\frac{2a\left(a+1\right)}{{\left(a+\left|x_j^{*}\right|\right)}^3},\hfill & i\ne j\hfill \end{array},其中i\in J_1,j\in \Omega ,$

$C{\left(x^{*}\right)}_{M_1\times \Omega }:=\{\begin{array}{ll}{\nabla }^2\mathcal{l}{\left(x^{*}\right)}_{i,j},\hfill & i=j\hfill \\ {\nabla }^2\mathcal{l}{\left(x^{*}\right)}_{i,j}-\frac{2\left(a+1\right)}{a^2},\hfill & i\ne j\hfill \end{array},其中i\in M_1,j\in \Omega .$

定理3.5 ( $\partial Z$ 强度量次正则的充要条件)设 $\mathcal{l}$ 在 $x^{*}$ 处二次连续可微。则 $\partial Z$ 在 $\left(x^{*},0\right)$ 处是强度量次正则的当且仅当

$\{\begin{array}{l}B{\left(x^{*}\right)}_{J_1\times \Omega }{u}_{\Omega }=0\hfill \\ u_{M_{{}_1}}=0\hfill \\ u_{K_{{}_1}}=0\hfill \\ {\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j{\left(\nabla \mathcal{l}\left(x^{*}\right)\right)}_j\le 0,j\in M_1\hfill \end{array}\Rightarrow u=0.$

或 $\{\begin{array}{l}B{\left(x^{*}\right)}_{J_1\times \Omega }{u}_{\Omega }=0\hfill \\ C{\left(x^{*}\right)}_{M_1\times \Omega }{u}_{\Omega }=0\hfill \\ u_{K_{{}_1}}=0\hfill \\ {\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j{\left(\nabla \mathcal{l}\left(x^{*}\right)\right)}_j\le 0,j\in M_1\hfill \end{array}\Rightarrow u=0.$

证明 先证充分性。

设 $0\in D\partial Z\left(x^{*}|0\right)\left(u\right)$ ，由引理2.7，有

$D\partial Z\left(x^{*}|0\right)\left(u\right)={\nabla }^2\mathcal{l}\left(x^{*}\right)u+D\partial P\left(x^{*}|-\nabla \mathcal{l}\left(x^{*}\right)\right)\left(u\right).$

由此可得

$-{\nabla }^2\mathcal{l}\left(x^{*}\right)\left(u\right)\in D\partial P\left(x^{*}|-\nabla \mathcal{l}\left(x^{*}\right)\right)\left(u\right).$

再由(5)式，上式等价于：

$\{\begin{array}{ll}{\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j{u}_j\le 0,\hfill & j\in M_1\hfill \\ {\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j{\left(\nabla \mathcal{l}\left(x^{*}\right)\right)}_j\le 0,\hfill & j\in M_1\hfill \\ {\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j=\frac{2a\left(a+1\right)u_j}{{\left(a+\left|x_j^{*}\right|\right)}^3},\hfill & j\in J_1\hfill \\ u_j=0,\hfill & j\in K_1\hfill \end{array}$ 或 $\{\begin{array}{ll}{\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j{\left(\nabla \mathcal{l}\left(x^{*}\right)\right)}_j\le 0,\hfill & j\in M_1\hfill \\ {\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j=\frac{2\left(a+1\right)u_j}{a^2},\hfill & j\in M_1\hfill \\ {\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j=\frac{2a\left(a+1\right)u_j}{{\left(a+\left|x_j^{*}\right|\right)}^3},\hfill & j\in J_1\hfill \\ u_j=0,\hfill & j\in K_1\hfill \end{array}$

$\iff \{\begin{array}{l}B{\left(x^{*}\right)}_{J_1\times \Omega }{u}_{\Omega }=0\hfill \\ u_{M_{{}_1}}=0\hfill \\ u_{K_{{}_1}}=0\hfill \\ {\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j{\left(\nabla \mathcal{l}\left(x^{*}\right)\right)}_j\le 0,j\in M_1\hfill \end{array}$ 或 $\{\begin{array}{l}B{\left(x^{*}\right)}_{J_1\times \Omega }{u}_{\Omega }=0\hfill \\ C{\left(x^{*}\right)}_{M_1\times \Omega }{u}_{\Omega }=0\hfill \\ u_{K_{{}_1}}=0\hfill \\ {\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j{\left(\nabla \mathcal{l}\left(x^{*}\right)\right)}_j\le 0,j\in M_1\hfill \end{array}.$

那么有 $u=0$ 。由引理2.6可以得到 $\partial Z$ 在 $\left(x^{*},0\right)$ 处是强度量次正则的。

再证必要性。

若 $\partial Z$ 在 $\left(x^{*},0\right)$ 处是强度量次正则的，那么有 $D\left(\partial Z\right){\left(x^{*}|0\right)}^{-1}\left(0\right)=\left\{0\right\}$ 。则根据 $\partial Z$ 的图像导数表达式有

$\iff \{\begin{array}{l}B{\left(x^{*}\right)}_{J_1\times \Omega }{u}_{\Omega }=0\hfill \\ u_{M_{{}_1}}=0\hfill \\ u_{K_{{}_1}}=0\hfill \\ {\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j{\left(\nabla \mathcal{l}\left(x^{*}\right)\right)}_j\le 0,j\in M_1\hfill \end{array}\Rightarrow u=0$

或 $\{\begin{array}{l}B{\left(x^{*}\right)}_{J_1\times \Omega }{u}_{\Omega }=0\hfill \\ C{\left(x^{*}\right)}_{M_1\times \Omega }{u}_{\Omega }=0\hfill \\ u_{K_{{}_1}}=0\hfill \\ {\left({\nabla }^2\mathcal{l}\left(x^{*}\right)u\right)}_j{\left(\nabla \mathcal{l}\left(x^{*}\right)\right)}_j\le 0,j\in M_1\hfill \end{array}\Rightarrow u=0.$

综上所述，充要条件得证。

4. 结束语

本文主要研究了一类带变换 ${\mathcal{l}}_1$ 罚函数的正则化问题的强度量次正则的充分条件和充要条件，丰富了带变换 ${\mathcal{l}}_1$ 罚函数的正则化问题和强度量次正则的理论知识，为该类问题的非凸算法提供了理论分析保障，这对于非凸优化一阶下降算法全局收敛性和收敛率分析有着非常重要的作用。在后续的工作中，将继续研究该正则化问题的稳定性，可以研究该问题的二阶增长条件及其与强度量次正则性的等价关系，并且以这些理论为基础探讨该问题相关优化算法的收敛性。

致谢

感谢审稿人和编辑对本文提出的宝贵意见。

基金项目

本文在重庆市自然科学基金(CSTB2022NSCQ-MSX0409, CSTB2022NSCQMSX0406, CQ-NCAM-2021-02)和重庆市教育委员会科技项目(KJZD-M202201303, KJQN202201349)资助下完成。