二元凸复合与DC复合优化问题的最优性条件

Optimality Conditions for the Convex Composite Optimization and Composite Optimization of DC with Binary Variable

摘要: 利用变分分析相关结论，对二元凸复合优化问题和DC复合优化问题的最优解进行刻画，推广了前人的相关结论。

Abstract: Characterizations of optimal solutions of convex and DC of composite optimization problems are described based on advanced tools of variational analysis, which extend the corresponding results in the previous papers.

1. 引言

在实际生产生活中二元函数占据着举足轻重的地位，当目标函数或约束函数为二元函数时，约束优化问题的复杂程度、研究难度大大提高。对目标函数为二元函数，约束函数带一元函数的约束优化问题，已有诸多学者利用集值映射协导数、次微分性质、闭性条件等进行研究，得到了值函数次微分的估计式、 $KKT$ 类最优性条件等(参看文献 [1] [2] [3] [4] )。而对于目标函数为二元复合函数的约束优化问题少有研究，因此本文考虑目标函数为二元复合函数，约束函数为一元复合函数的二元复合优化问题，利用函数的 $\text{Fr}é\text{chet}$ 次微分和集值映射协导数的相关性质及闭性约束规范条件，建立该问题的最优性条件。又因为 $DC$ (两个凸函数的差)优化问题无论是在理论意义还是实际应用方面都比凸优化问题更加具有普遍性，而且许多的实际问题都可以转化成 $DC$ 优化问题，因此 $DC$ 优化问题受到了学者们的广泛关注。学者们利用协导数性质、凸化技巧等对 $DC$ 优化问题值函数的次微分进行估计，并对最优性条件进行刻画(参看文献 [4] [5] [6] [7] )。受此启发，本文将再次对目标函数为二元复合 $DC$ 函数，约束函数为一元复合 $DC$ 函数的这一类二元 $DC$ 复合优化问题进行研究，通过利用凸化技巧、集值映射协导数的性质，建立该问题的最优性必要条件。

2. 预备知识

设 $P,X,Z_1$ 和 $Z_2$ 是 $Banach$ 空间， $P^{\ast },X^{\ast },Z_1^{\ast }$ 和 $Z_2^{\ast }$ 分别是 $P,X,Z_1$ 和 $Z_2$ 的共轭空间。定义 $Y$ 上的序为：若 $y-x\in -K$ ，则 $y{\le }_{K}x$ 。设 $Z$ 是 $X$ 的非空子集，记 $Z$ 的凸锥包和闭包分别为 $\text{cone}Z$ 和 $\text{cl}Z$ 。用 $\langle x^{\ast },x\rangle$ 表示泛函 $x^{\ast }\in X^{\ast }$ 在点 $x\in X$ 的值，即 $\langle x^{\ast },x\rangle =x^{\ast }\left(x\right)$ 。非空集合 $Z$ 的对偶锥和示性函数分别定义为： $Z^{\oplus }:=\left\{x^{\ast }\in X^{\ast }:\langle x^{\ast },x\rangle \ge 0,\forall x\in Z\right\}$ ，

${\delta }_z\left(x\right):=\{\begin{array}{l}0,x\in Z,\\ +\infty ,其它.\end{array}$

定义凸子集 $Z$ 在 $z_0\in Z_0$ 处的法锥为 $N\left(z_0;Z\right):=\left\{x^{\ast }\in X^{\ast }:\langle x^{\ast },z-z_0\rangle \le 0,\forall z\in Z\right\}$ 。设 $T$ 是任意(可能无限)指标集，令 ${ℝ}^T$ 表示定义在 $T$ 上的实值函数所组成的空间，并赋予乘积拓扑。记

${ℝ}^{\left(T\right)}:=\left\{\lambda ={\left({\lambda }_t\right)}_{t\in T}\in {ℝ}^T:最多只有有限个{\lambda }_t\ne 0\right\}.$

用 ${ℝ}_{+}^{\left(T\right)}$ 表示 ${ℝ}^{\left(T\right)}$ 上的非负锥，即 ${ℝ}_{+}^{\left(T\right)}:=\left\{{\left({\lambda }_t\right)}_{t\in T}\in {ℝ}^{\left(T\right)}:{\lambda }_t\ge 0,\forall t\in T\right\}$ 。设 $f$ 是 $X$ 上的真函数，定义 $f$ 的有效定义域，上图和共轭函数分别为： $\text{dom}f:=\left\{x\in X:f\left(x\right)<+\infty \right\},$ $\text{epi}f:=\left\{\left(x,r\right)\in X\times ℝ:f\left(x\right)\le r\right\},$ $f^{\ast }\left(x^{\ast }\right):=\sup \left\{\langle x^{\ast },x\rangle -f\left(x\right):x\in X\right\},\forall x^{\ast }\in X^{\ast }$。显然， $\text{epi}{f}^{\ast }$ 是弱 ${}^{\ast }$ 闭集。对任意的 $r\in ℝ,p\in X^{\ast }$ ，函数 $h:X\to \overline{ℝ},$ 有

$\text{epi}{\left(h+p+r\right)}^{\ast }=\text{epi}{h}^{\ast }+\left(p,-r\right),$ (2.1)

${\left(h+p+r\right)}^{\ast }\left(x^{\ast }\right)=h^{\ast }\left(x^{\ast }-p\right)-r,\forall x^{\ast }\in X^{\ast }.$ (2.2)

当 $f$ 是凸函数时， $f$ 在点 $x\in \text{dom}f$ 的次微分定义为 $\partial f\left(x\right):=\left\{x^{\ast }\in X^{\ast }:f\left(x\right)+\langle x^{\ast },y-x\rangle \le f\left(y\right),\forall y\in X\right\}$ 。由文 [7] 的定理2.3.1 (ii)和定理2.4.2 (iii)知 $Young-Fenchel$ 不等式和 $Young$ 等式成立，即

$f\left(x\right)+f^{\ast }\left(x^{\ast }\right)\ge \langle x,x^{\ast }\rangle ,\forall \left(x,x^{\ast }\right)\in X\times X^{\ast },$ (2.3)

$x^{\ast }\in \partial f\left(x\right)\iff f\left(x\right)+f^{\ast }\left(x^{\ast }\right)=\langle x^{\ast },x\rangle .$ (2.4)

设 $\Omega \subset X$ ，定义 $\Omega$ 在点 $x_0$ 的 $\text{Fr}é\text{chet}$ 法锥为

$\hat{N}\left(x_0;\Omega \right):=\left\{x^{\ast }\in X^{\ast }:\underset{x\stackrel{\Omega }{\to }{x}_0}{\lim \sup }\frac{\langle x^{\ast }x-x_0\rangle }{\Vert x-x_0\Vert }\le 0\right\},$

其中： $x\stackrel{\Omega }{\to }{x}_0$ 表示 $x\in \Omega$ 且 $x\to x_0$ 。特别地，当集合 $\Omega$ 是凸集时， $\text{Fr}é\text{chet}$ 法锥即为凸分析中经典的法锥。设 $G:X\rightrightarrows Y$ 是定义在 $X$ 上满足 $G\left(x\right)\subseteq Y$ 的集值映射，定义 $G$ 的定义域和图分别为 $\text{dom}G:=\left\{x\in X:G\left(x\right)\ne \varnothing \right\},$ $\text{gph}G:=\left\{\left(x,y\right)\in X\times Y:y\in G\left(x\right)\right\}$。定义集值映射 $G$ 在点 $\left(\bar{x},\bar{y}\right)\in \text{gph}G$ 的协导数 ${\hat{D}}^{\ast }G\left(\bar{x},\bar{y}\right):Y^{\ast }\rightrightarrows X^{\ast }$ 为 ${\hat{D}}^{\ast }G\left(\bar{x},\bar{y}\right)\left(y^{\ast }\right):=\left\{x^{\ast }\in X^{\ast }:\left(x^{\ast },-y^{\ast }\right)\in \hat{N}\left(\left(\bar{x},\bar{y}\right);\text{gph}G\right)\right\},\forall y^{\ast }\in Y^{\ast }$ 。设 $\varphi :X\to$ $ℝ\cup \left\{\pm \infty \right\}$是实值延拓函数，点 $x_0\in \text{dom}\varphi$ 且满足 $\left|\varphi \left(x_0\right)\right|<+\infty .$ 由文 [8] 知，函数 $\varphi$ 在 $x_0$ 处 $\epsilon \text{-Fr}é\text{chet}$ 次微分定义为 ${\hat{\partial }}_{\epsilon }\varphi \left(x_0\right):=\left\{x^{\ast }\in X^{\ast }:\underset{x\to x_0}{\lim \inf }\frac{\varphi \left(x\right)-\varphi \left(x_0\right)-\langle x^{\ast },x-x_0\rangle }{\Vert x-x_0\Vert }\ge -\epsilon \right\},\epsilon \ge 0.$ 当 $x_0\notin \text{dom}\varphi$ 时， ${\hat{\partial }}_{\epsilon }\varphi \left(x_0\right)=\varnothing$ 。当 $\epsilon =0$ 时， $\hat{\partial }\varphi \left(x_0\right):={\hat{\partial }}_{\epsilon }\varphi \left(x_0\right)$ 为 $\varphi$ 在 $x_0$ 处 $\text{Fr}é\text{chet}$ 次微分。特别地，当 $\varphi$ 是凸函数时， $\hat{\partial }\varphi \left(x_0\right):=\partial \varphi \left(x_0\right)$ 即为凸分析中经典的次微分。由定义由

$x_0是\varphi 的局部最优解\Rightarrow 0\in \hat{\partial }\varphi \left(x_0\right).$ (2.5)

由文 [9] 知，设函数 $\psi :Y\to \overline{ℝ}$ ，对任意的 $x,y\in Y$ ，若当 $y{\le }_{K}x$ 时有 $\psi \left(y\right)\le \psi \left(x\right)$ ，则称函数 $\psi$ 是 $K-$ 增函数。设函数 $\phi :X\to Y$ ，对任意的 $x_1,x_2\in X,t\in \left[0,1\right]$ ，有 $\phi \left(t{x}_1+\left(1-t\right)x_2\right){\le }_{K}t\phi \left(x_1\right)+\left(1-t\right)\phi \left(x_2\right)$ ，则称函数 $\phi$ 是 $K-$ 凸函数。对于任意的 $\lambda \in K^{\oplus }$ ，定义 $\left(\lambda \phi \right)(·)：X\to \overline{ℝ}$ 为 $\left(\lambda \phi \right)\left(x\right):=\{\begin{array}{l}\langle \lambda ，\phi \left(x\right)\rangle ,x\in \text{dom}\phi ,\\ +\infty ,其它.\end{array}$ 显然， $\phi$ 为 $K-$ 凸函数当且仅当对任意的 $\lambda \in K^{\oplus },\lambda \phi$ 为凸函数。若对任意的 $\lambda \in K^{\oplus },\lambda \phi (·):X\to \overline{ℝ}$ 是下半连续函数，则称函数 $\phi$ 是 $star-K-$ 下半连续函数。定义复合函数的复合形式为 $\left(f\circ \phi \right)\left(x\right):=\{\begin{array}{l}f\left(\phi \left(x\right)\right),x\in \text{dom}\phi ,\\ +\infty ,其它.\end{array}$ 并且，对 $X$ 上的系统 $\left\{S_t:t\in T\right\}$ ，约定 $\underset{t\in \varphi }{\cap }{S}_t=X.$

3. 两类复合优化问题的最优性条件

设 $T$ 是任意指标集， $a_t^{\ast }\in P^{\ast }$ 是一固定值， $\phi :P\times X\to Z_1\times Z_2$ 是真 $K-$ 凸映射， $f:Z_1\times Z_2\to \overline{ℝ}$ 是真凸 $K-$ 增函数， $h:X\to Z_2$ 是真 $K-$ 凸且 $star-K-$ 下半连续映射， $f_t:Z_2\to \overline{ℝ},t\in T$ 是真凸下半连续且 $K-$ 增函数， $g:P\times X\to \overline{ℝ}$ 和 $g_t:X\to \overline{ℝ},t\in T$ 均为真凸函数。本文主要研究二元凸复合优化问题

$\left(P\right)$ $\begin{array}{l}\text{Min }\left(f\circ \phi \right)\left(p,x\right)\\ \text{s}\text{. t}\text{. }\left(f_t\circ h\right)\left(x\right)\le \langle a_t^{\ast },p\rangle ,t\in T\end{array}$

和二元 $DC$ 复合优化问题

$\left(\bar{P}\right)$ $\begin{array}{l}\text{Min }\left(f\circ \phi \right)\left(p,x\right)-g\left(p,x\right)\\ \text{s}\text{. t}\text{. }\left(f_t\circ h\right)\left(x\right)-g_t\left(x\right)\le \langle a_t^{\ast },p\rangle ,t\in T\end{array}$

的最优性条件。

3.1. 凸复合优化问题的最优性条件

本节主要对问题 $\left(P\right)$ 最优解的特征进行刻画。定义可行解集映射 $F:P\rightrightarrows X$ 为

$F\left(p\right):=\left\{x\in X:f_t\left(h\left(x\right)\right)\le \langle a_t^{\ast },p\rangle ,t\in T\right\},\forall p\in P.$

分别定义可行解集映射 $F$ 的图和特征集 $C\left(p\right)$ 为

$\begin{array}{l}\text{gph}F:=\left\{\left(p,x\right)\in P\times X:f_t\left(h\left(x\right)\right)\le \langle a_t^{\ast },p\rangle ,t\in T\right\},\\ C\left(p\right):=\text{cone}\left(\underset{{\beta }_t\in \text{dom}{f}_t^{\ast },t\in T}{\cup }\left(\text{epi}{\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }+\left(0,\langle a_t^{\ast },p\rangle \right)\right)\right).\end{array}$

设 $\left(p,x\right)\in P\times X$ ，记 $T\left(p,x\right)$ 为点 $\left(p,x\right)$ 的活动指标集，即

$T\left(p,x\right):=\left\{t\in T:f_t\left(h\left(x\right)\right)=\langle a_t^{\ast },p\rangle \right\}.$

由文 [7] 可得以下引理。

引理3.1.1 [7] 设 $g:X\to \overline{ℝ}$ 是真凸函数， $\phi :\text{dom}\phi \subset X\to Z^{•}$ 是真 $K-$ 凸函数， $f:Z\to \overline{ℝ}$ 为真凸函数且在 $\phi \left(\text{dom}\phi \right)+K$ 上是 $K-$ 增函数。若存在点 $x_0\in \text{dom}g+{\phi }^{-1}\left(\text{dom}f\right)$ 使得函数 $f$ 在 $\phi \left(x_0\right)$ 处连续，则对任意的 $x^{\ast }\in X^{\ast }$ 有

${\left(g+f\circ \phi \right)}^{\ast }\left(x^{\ast }\right)=\underset{\beta \in \text{dom}{f}^{\ast }}{\text{min}}\left(f^{\ast }\left(\beta \right)+{\left(g+\beta \phi \right)}^{\ast }\left(x^{\ast }\right)\right),$

或者

$\text{epi}{\left(g+f\circ \phi \right)}^{\ast }=\underset{\beta \in \text{dom}{f}^{\ast }}{\cup }\text{epi}{\left(g+\beta \phi -f^{\ast }\left(\beta \right)\right)}^{\ast },$

且对任意的 $x\in \text{dom}g+{\phi }^{-1}\left(\text{dom}f\right)$ ，有

$\partial \left(f\circ \phi +g\right)\left(x\right)=\underset{\beta \in \partial f\left(\phi \left(x\right)\right)}{\cup }\partial \left(\beta \phi +g\right)\left(x\right).$

故由引理3.1.1可得以下命题。

命题3.1.1 设 $p\in \text{dom}F,\left(x^{\ast },\alpha \right)\in X^{\ast }\times ℝ$ 。若存在点 $x_0\in h^{-1}\left(\underset{t\in T}{\cap }\text{dom}{f}_t\right)$ 使得 $f_t$ 在 $h\left(x_0\right)$ 处连续，则

$\langle x^{\ast },x\rangle \le \alpha ,\forall x\in F\left(p\right)\iff \left(x^{\ast },\alpha \right)\in \text{cl}C\left(p\right).$

证明设对任意的 $x\in F\left(p\right)$ ，有 $\langle x^{\ast },x\rangle \le \alpha$ ，则

$\underset{x\in X}{\sup }\left\{\langle x^{\ast },x\rangle -{\delta }_{F\left(p\right)}\left(x\right)\right\}\le \alpha ,\forall x^{\ast }\in X^{\ast },$

故 ${\delta }_{{}_{F\left(p\right)}}^{\ast }\left(x^{\ast }\right)\le \alpha$ ，即 $\left(x^{\ast },\alpha \right)\in \text{epi}{\delta }_{F\left(p\right)}^{\ast }$ 。由文 [10] (3.1)式)和(2.1)式可得

$\begin{array}{l}\text{epi}{\delta }_{{}_{F\left(p\right)}}^{\ast }=\text{cl}\left(\text{epi}{\delta }_X^{\ast }+\text{cone}\left(\underset{t\in T}{\cup }\text{epi}{\left(f_t\circ h-\langle a_t^{\ast },p\rangle \right)}^{\ast }\right)\right)\\ =\text{cl}\left(\text{cone}\left(\underset{t\in T}{\cup }\left(\text{epi}{\left(f_t\circ h\right)}^{\ast }+\left(0,\langle a_t^{\ast },p\rangle \right)\right)\right)\right)\\ =\text{cl}\left(\text{cone}\left(\underset{t\in T}{\cup }\left(\underset{{\beta }_t\in \text{dom}{f}_t^{\ast }}{\cup }\text{epi}{\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }+\left(0,\langle a_t^{\ast },p\rangle \right)\right)\right)\right)\\ =\text{clC}\left(p\right),\end{array}$

故 $\left(x^{\ast },\alpha \right)\in \text{clC}\left(p\right)$ 。显然逆推亦成立，证毕。

定理3.1.1 设 $\left(\bar{p},\bar{x}\right)\in \text{ghp}F,\left(p^{\ast },x^{\ast }\right)\in P^{\ast }\times X^{\ast }$ 。若存在点 $x_0\in h^{-1}\left(\underset{t\in T}{\cap }\text{dom}{f}_t\right)$ 使得 $f_t$ 在 $h\left(x_0\right)$ 处连续，则 $p^{\ast }\in {\hat{D}}^{\ast }F\left(\bar{p},\bar{x}\right)\left(x^{\ast }\right)$ 当且仅当

$\left(p^{\ast },-x^{\ast },\langle p^{\ast },\bar{p}\rangle -\langle x^{\ast },\bar{x}\rangle \right)\in \text{cl}\left(\text{cone}\left(\underset{{\beta }_t\in \text{dom}{f}_t^{\ast },t\in T}{\cup }\left[\left\{-a_t^{\ast }\right\}\times \text{epi}{\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }\right]\right)\right).$

证明 根据协导数的定义可知， $p^{\ast }\in {\hat{D}}^{\ast }F\left(\bar{p},\bar{x}\right)\left(x^{\ast }\right)$ 当且仅当 $\left(p^{\ast },-x^{\ast }\right)\in \hat{N}\left(\left(\bar{p},\bar{x}\right);\text{ghp}F\right)$ 。由 $\text{ghp}F$ 是凸集及法锥定义可得

$\langle p^{\ast },p\rangle -\langle x^{\ast },x\rangle \le \langle p^{\ast },\bar{p}\rangle -\langle x^{\ast },\bar{x}\rangle ,\forall \left(p,x\right)\in \text{gph}F.$

结合命题3.1.1可知，上式成立当且仅当

$\left(p^{\ast },-x^{\ast },\langle p^{\ast },\bar{p}\rangle -\langle x^{\ast },\bar{x}\rangle \right)\in \text{cl}\left(\text{cone}\left(\underset{{\beta }_t\in \text{dom}{f}_t^{\ast },t\in T}{\cup }\left[\left\{-a_t^{\ast }\right\}\times \text{epi}{\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }\right]\right)\right).$

证毕。

接下来考虑问题 $\left(P\right)$ 的最优性条件。

定理3.1.2 设 $\left(\bar{p},\bar{x}\right)\in \text{ghp}F$ 是问题 $\left(P\right)$ 的极小点，若存在点 $\left(p_1,x_1\right)\in {\phi }^{-1}\left(\text{dom}f\right)\cap \text{ghp}F,$ $x_0\in h^{-1}\left(\underset{t\in T}{\cap }\text{dom}{f}_t\right)$ 使得函数 $f,f_t$ 分别在点 $\phi \left(p_1,x_1\right),h\left(x_0\right)$ 处连续，则存在点 $\left(p^{\ast },x^{\ast }\right)\in$ $\underset{\beta \in \partial f\left(\phi \left(\bar{p},\bar{x}\right)\right)}{\cup }\partial \left(\beta \phi \right)\left(\bar{p},\bar{x}\right),$ 使得

$\left(-p^{\ast },-x^{\ast },-\langle p^{\ast },\bar{p}\rangle -\langle x^{\ast },\bar{x}\rangle \right)\in \text{cl}\left(\text{cone}\left(\underset{{\beta }_t\in \text{dom}{f}_t^{\ast },t\in T}{\cup }\left[\left\{-a_t^{\ast }\right\}\times \text{epi}{\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }\right]\right)\right).$ (3.1)

若

$\text{cone}\left(\underset{{\beta }_t\in \text{dom}{f}_t^{\ast },t\in T}{\cup }\left[\left\{-a_t^{\ast }\right\}\times \text{epi}{\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }\right]\right)$ 在 $P^{\ast }\times X^{\ast }\times ℝ$ 上是弱 ${}^{\ast }$ 闭集， (3.2)

则存在 $\left(p^{\ast },x^{\ast }\right)\in \underset{\beta \in \partial f\left(\phi \left(\bar{p},\bar{x}\right)\right)}{\cup }\partial \left(\beta \phi \right)\left(\bar{p},\bar{x}\right),\lambda ={\left({\lambda }_t\right)}_{t\in T}\in {ℝ}_{+}^{\left(T\right)}$ 和 ${\beta }_t\in \partial f_t\left(h\left(\bar{x}\right)\right)$ 使得

$\{\begin{array}{l}{p}^{\ast }={\displaystyle \underset{t\in T\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t{a}_t^{\ast },}\\ -x^{\ast }\in {\displaystyle \underset{t\in T\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t\partial \left({\beta }_{t}h\right)\left(\bar{x}\right)}.\end{array}$ (3.3)

证明 由 $\left(\bar{p},\bar{x}\right)\in \text{ghp}F$ 是问题 $\left(P\right)$ 的极小点知， $\left(\bar{p},\bar{x}\right)\in \text{ghp}F$ 亦是问题

$\begin{array}{l}\text{Min}f\left(\phi \left(p,x\right)\right)\\ \text{s}\text{.t}\text{.}\left(p,x\right)\in \text{ghp}F\end{array}$

的极小点。根据(2.5)式可得

$0\in \hat{\partial }\left(f\circ \phi +{\delta }_{\text{ghp}F}\right)\left(\bar{p},\bar{x}\right).$

又存在点 $\left(p_1,x_1\right)\in {\phi }^{-1}\left(\text{dom}f\right)\cap \text{ghp}F$ ，使得函数 $f$ 在点 $\phi \left(p_1,x_1\right)$ 处连续，且 $f\circ \phi$ 为凸函数、 $\text{ghp}F$ 是凸集，故

$0\in \partial \left(f\circ \phi \right)\left(\bar{p},\bar{x}\right)+N\left(\left(\bar{p},\bar{x}\right);\text{ghp}F\right).$

再结合引理3.1.1得

$0\in \underset{\beta \in \partial f\left(\phi \left(\bar{p},\bar{x}\right)\right)}{\cup }\partial \left(\beta \phi \right)\left(\bar{p},\bar{x}\right)+N\left(\left(\bar{p},\bar{x}\right);\text{ghp}F\right).$

故存在点 $\left(p^{\ast },x^{\ast }\right)\in \underset{\beta \in \partial f\left(\phi \left(\bar{p},\bar{x}\right)\right)}{\cup }\partial \left(\beta \phi \right)\left(\bar{p},\bar{x}\right)$ 使得 $\left(-p^{\ast },-x^{\ast }\right)\in N\left(\left(\bar{p},\bar{x}\right);\text{ghp}F\right)$ 。因此由协导数定义知 $-p^{\ast }\in {\hat{D}}^{\ast }F\left(\bar{p},\bar{x}\right)\left(x^{\ast }\right)$ ，从而由定理3.1.1可知(3.1)式成立。

若(3.2)式成立，则存在 $\left(p^{\ast },x^{\ast }\right)\in \underset{\beta \in \partial f\left(\phi \left(\bar{p},\bar{x}\right)\right)}{\cup }\partial \left(\beta \phi \right)\left(\bar{p},\bar{x}\right)$ ，使得

$\left(-p^{\ast },-x^{\ast },-\langle p^{\ast },\bar{p}\rangle -\langle x^{\ast },\bar{x}\rangle \right)\in \text{cone}\left(\underset{{\beta }_t\in \text{dom}{f}_t^{\ast },t\in T}{\cup }\left[\left\{-a_t^{\ast }\right\}\times \text{epi}{\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }\right]\right).$

故由锥的定义可知，存在 $\lambda ={\left({\lambda }_t\right)}_{t\in T}\in {ℝ}_{+}^{\left(T\right)}$ 和 ${\beta }_t\in \text{dom}{f}_t^{\ast },t\in T_0,\left(x_t^{\ast },r_t\right)\in \text{epi}{\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }$ ，使得

$\left(-p^{\ast },-x^{\ast },-\langle p^{\ast },\bar{p}\rangle -\langle x^{\ast },\bar{x}\rangle \right)=\left({\displaystyle \underset{t\in T_0}{\sum }{\lambda }_t\left(-a_t^{\ast }\right),{\displaystyle \underset{t\in T_0}{\sum }{\lambda }_t{x}_t^{\ast },}{\displaystyle \underset{t\in T_0}{\sum }{\lambda }_t{r}_t}}\right),$ (3.4)

其中 $T_0:=\left\{t\in T:{\lambda }_t\ne 0\right\}$ 是 $T$ 中有限子集。由此可知，欲证(3.3)式成立，只需证对任意的 $t\in T_0$ ，有 $x_t^{\ast }\in \partial \left({\beta }_{t}h\right)\left(\bar{x}\right),{\beta }_t\in \partial f_t\left(h\left(\bar{x}\right)\right)$ 且 $T_0\subseteq T\left(\bar{p},\bar{x}\right)$ 。现依次给出证明。结合(3.4)式， $\left(\bar{p},\bar{x}\right)\in \text{ghp}F$ 可得

$\begin{array}{l}{{\displaystyle \underset{t\in T_0}{\sum }{\lambda }_t\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}}^{\ast }\left(x_t^{\ast }\right)\le {\displaystyle \underset{t\in T_0}{\sum }{\lambda }_t{r}_t}\\ =-\langle p^{\ast },\bar{p}\rangle -\langle x^{\ast },\bar{x}\rangle \\ ={\displaystyle \underset{t\in T_0}{\sum }{\lambda }_t\left[\langle x_t^{\ast },\bar{x}\rangle -\langle a_t^{\ast },\bar{p}\rangle \right]}\\ \le {\displaystyle \underset{t\in T_0}{\sum }{\lambda }_t\left[\langle x_t^{\ast },\bar{x}\rangle -f_t\left(h\left(\bar{x}\right)\right)\right]},\end{array}$

即

${\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }\left(x_t^{\ast }\right)\le \langle x_t^{\ast },\bar{x}\rangle -f_t\left(h\left(\bar{x}\right)\right).$ (3.5)

由(2.3)式知

${\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }\left(x_t^{\ast }\right)\ge \langle x_t^{\ast },\bar{x}\rangle -\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)\left(\bar{x}\right),$ (3.6)

$f_t^{\ast }\left({\beta }_t\right)\ge \langle {\beta }_t,h\left(\bar{x}\right)\rangle -f_t\left(h\left(\bar{x}\right)\right).$ (3.7)

结合(3.5)，(3.7)式可知

${\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }\left(x_t^{\ast }\right)\le \langle x_t^{\ast },\bar{x}\rangle -\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)\left(\bar{x}\right),$

故由(2.2)，(3.6)式可得

${\left({\beta }_{t}h\right)}^{\ast }\left(x_t^{\ast }\right)=\langle x_t^{\ast },\bar{x}\rangle -\left({\beta }_{t}h\right)\left(\bar{x}\right),$

因此 $x_t^{\ast }\in \partial \left({\beta }_{t}h\right)\left(\bar{x}\right)$ 。

进一步，由(3.5)，(3.6)式知

$\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)\left(\bar{x}\right)\ge f_t\left(h\left(\bar{x}\right)\right),$

即

$\langle {\beta }_t,h\left(\bar{x}\right)\rangle -f_t\left(h\left(\bar{x}\right)\right)\ge f_t^{\ast }\left({\beta }_t\right).$ (3.8)

从而，由(3.7)，(3.8)式知

$\langle {\beta }_t,h\left(\bar{x}\right)\rangle -f_t\left(h\left(\bar{x}\right)\right)=f_t^{\ast }\left({\beta }_t\right),$ (3.9)

故，结合(2.4)式可知 ${\beta }_t\in \partial f_t\left(h\left(\bar{x}\right)\right)$ 。

下面只需证明 $T_0\subseteq T\left(\bar{p},\bar{x}\right)$ 。结合(3.4)，(3.9)式及 $\left(\bar{p},\bar{x}\right)\in \text{ghp}F$ 可得

$\begin{array}{l}{\displaystyle \underset{t\in T_0}{\sum }{\lambda }_t\langle x_t^{\ast },\bar{x}\rangle }={\displaystyle \underset{t\in T_0}{\sum }{\lambda }_t{r}_t}+\langle p^{\ast },\bar{p}\rangle \\ \ge {{\displaystyle \underset{t\in T_0}{\sum }{\lambda }_t\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}}^{\ast }\left(x_t^{\ast }\right)+\langle p^{\ast },\bar{p}\rangle \\ \ge {\displaystyle \underset{t\in T_0}{\sum }{\lambda }_t\left[\langle x_t^{\ast },\bar{x}\rangle -\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)\left(\bar{x}\right)+\langle a_t^{\ast },\bar{p}\rangle \right]}\\ ={\displaystyle \underset{t\in T_0}{\sum }{\lambda }_t\left[\langle x_t^{\ast },\bar{x}\rangle +\langle a_t^{\ast },\bar{p}\rangle -f_t\left(h\left(\bar{x}\right)\right)\right]}\\ \ge {\displaystyle \underset{t\in T_0}{\sum }{\lambda }_t\langle x_t^{\ast },\bar{x}\rangle }.\end{array}$

由此可知

$f_t\left(h\left(\bar{x}\right)\right)=\langle a_t^{\ast },\bar{p}\rangle ,$

从而由 $T\left(\bar{p},\bar{x}\right)$ 定义得 $T_0\subseteq T\left(\bar{p},\bar{x}\right)$ ，证毕。

定义3.1.1 [8] 若存在线性连续算子 $\nabla m\left(x_0\right):X\to Y$ 使得

则称函数 $m:X\to \overline{ℝ}$ 在点 $x_0$ 处 $\text{Fr}é\text{chet}$ 可微。

由上述定义及文( [8] ，命题1.87)知，若函数 $f\circ \phi$ 在点 $\left(\bar{p},\bar{x}\right)\in \text{ghp}F$ 处 $\text{Fr}é\text{chet}$ 可微，则有下式成立

$\hat{\partial }\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right)=\left\{\left({\nabla }_p\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right),{\nabla }_x\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right)\right)\right\}.$

因此，由定理3.1.2可知下面推论成立。

推论3.1.1设 $\left(\bar{p},\bar{x}\right)\in \text{ghp}F$ 问题 $\left(P\right)$ 的极小点，若存在点 $x_0\in h^{-1}\left(\underset{t\in T}{\cap }\text{dom}{f}_t\right)$ 使得 $f_t$ 在 $h\left(x_0\right)$ 处连续，且函数 $f\circ \phi$ 在点 $\left(\bar{p},\bar{x}\right)$ 处 $\text{Fr}é\text{chet}$ 可微，则

$\begin{array}{l}\left(-{\nabla }_p\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right),-{\nabla }_x\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right),-\langle {\nabla }_p\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right),\bar{p}\rangle -\langle {\nabla }_x\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right),\bar{x}\rangle \right)\\ \in \text{cl}\left(\text{cone}\left(\underset{{\beta }_t\in \text{dom}{f}_t^{\ast },t\in T}{\cup }\left[\left\{-a_t^{\ast }\right\}\times \text{epi}{\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }\right]\right)\right).\end{array}$

若(3.2)式成立，则存在 $\lambda ={\left({\lambda }_t\right)}_{t\in T}\in {ℝ}_{+}^{\left(T\right)},{\beta }_t\in \partial f_t\left(h\left(\bar{x}\right)\right)$ ，使得

$\{\begin{array}{l}{\nabla }_p\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right)={\displaystyle \underset{t\in T\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t{a}_t^{\ast },}\\ -{\nabla }_x\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right)\in {\displaystyle \underset{t\in T\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t\partial \left({\beta }_{t}h\right)\left(\bar{x}\right)}.\end{array}$

注3.1.1当 $\phi ,h$ 为单位映射时，定理3.1.2转化为文( [4] ，定理3.4)。因此，本文推广了文 [4] 中的相关结论。

3.2. DC复合优化问题的最优化条件

本节主要对问题 $\left(\bar{P}\right)$ 最优解的特征进行刻画。定义

$\left(f_t\circ h\right)\left(x\right)-g_t\left(x\right)\le \langle a_t^{\ast },p\rangle ,t\in T$ (3.10)

的可行解集映射 $\bar{F}:P\rightrightarrows X$ 为

$\bar{F}\left(p\right):=\left\{x\in X:\left(f_t\circ h\right)\left(x\right)-g_t\left(x\right)\le \langle a_t^{\ast },p\rangle ,t\in T\right\},\forall p\in P.$

设 ${\omega }^{\ast }:={\left({\omega }_t^{\ast }\right)}_{t\in T}\in W^{\ast }:=\underset{t\in T}{\prod }\text{dom}{g}_t^{\ast }$ 。定义凸函数 ${\bar{F}}_t^{{\omega }_t^{\ast }}:X\to \overline{ℝ}$ 为

${\bar{F}}_t^{{\omega }_t^{\ast }}\left(x\right):=\left(f_t\circ h\right)\left(x\right)-\langle {\omega }_t^{\ast },x\rangle +g_t^{\ast }\left({\omega }_t^{\ast }\right),\forall x\in X,t\in T.$

定义凸不等式系统

${\bar{F}}_t^{{\omega }_t^{\ast }}\left(x\right)\le \langle a_t^{\ast },p\rangle ,t\in T$ (3.11)

的可行解集映射 ${\bar{F}}^{{\omega }_t^{\ast }}:P\rightrightarrows X$ 为

${\bar{F}}^{{\omega }_t^{\ast }}\left(p\right):=\left\{x\in X:{\bar{F}}_t^{{\omega }_t^{\ast }}\left(x\right)\le \langle a_t^{\ast },p\rangle ,t\in T\right\},\forall p\in P.$

映射 $\bar{F}$ 和映射 ${\bar{F}}^{{\omega }_t^{\ast }}$ 的图分别定义为

$\begin{array}{l}\text{ghp}\bar{F}:=\left\{\left(p,x\right)\in P\times X:\left(f_t\circ h\right)\left(x\right)-g_t\left(x\right)\le \langle a_t^{\ast },p\rangle ,\forall t\in T\right\},\\ \text{ghp}{\bar{F}}^{{\omega }_t^{\ast }}:=\left\{\left(p,x\right)\in P\times X:{\bar{F}}_t^{{\omega }_t^{\ast }}\left(x\right)\le \langle a_t^{\ast },p\rangle ,\forall t\in T\right\}.\end{array}$

记

${\Omega }^{{\omega }_t^{\ast }}:=\text{cone}\left(\underset{{\beta }_t\in \text{dom}{f}_t^{\ast },t\in T}{\cup }\left(\left\{-a_t^{\ast }\right\}\times \left(\text{epi}{\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }-\left({\omega }_t^{\ast },g_t^{\ast }\left({\omega }_t^{\ast }\right)\right)\right)\right)\right).$

下面两个引理将给出系统(3.10)和系统(3.11)之间的关系，其证明过程与文( [4] ，引理4.1和4.2)类似，故此处省略。

引理3.2.1 (i)设 $p\in P$ 。对任意的 ${\omega }^{\ast }\in W^{\ast }$ ，有

${\bar{F}}^{{\omega }_t^{\ast }}\left(p\right)\subseteq \bar{F}\left(p\right),\text{gph}{\bar{F}}^{{\omega }_t^{\ast }}\subseteq \text{gph}\bar{F},epi{\delta }_{{}_{\bar{F}\left(p\right)}}^{\ast }\subseteq epi{\delta }_{{\bar{F}}^{{\omega }_t^{\ast }}\left(p\right)}^{\ast },$

和

$\hat{N}\left(x;\bar{F}\left(p\right)\right)\subseteq N\left(x;{\bar{F}}^{{\omega }_t^{\ast }}\left(p\right)\right),\forall x\in {\bar{F}}^{{\omega }_t^{\ast }}\left(p\right).$

(ii) 设 $\left(p,x\right)\in \text{ghp}\bar{F}$ 。若函数 $g_t,t\in T$ 在点 $x$ 处次可微，则

$\bar{F}\left(p\right)=\underset{{\omega }_t^{\ast }\in \text{dom}{g}_t^{\ast }}{\cup }{\bar{F}}^{{\omega }_t^{\ast }}\left(p\right)=\underset{{\omega }_t^{\ast }\in \partial g_t\left(x\right)}{\cup }{\bar{F}}^{{\omega }_t^{\ast }}\left(p\right),$

且

$epi{\delta }_{{}_{\bar{F}\left(p\right)}}^{\ast }=\underset{{\omega }_t^{\ast }\in \text{dom}{g}_t^{\ast }}{\cap }\text{epi}{\delta }_{{}_{{\bar{F}}^{{\omega }_t^{\ast }}\left(p\right)}}^{\ast }=\underset{{\omega }_t^{\ast }\in \partial g_t\left(x\right)}{\cap }\text{epi}{\delta }_{{}_{{\bar{F}}^{{\omega }_t^{\ast }}\left(p\right)}}^{\ast }.$

若 $\bar{F}\left(p\right)$ 为凸集，则对任意的 $x\in \bar{F}\left(p\right)$ ，有 $N\left(x;\bar{F}\left(p\right)\right)=\underset{{\omega }_t^{\ast }\in \partial g_t\left(x\right)}{\cap }N\left(x;{\bar{F}}^{{\omega }_t^{\ast }}\left(p\right)\right)$ 。

引理3.2.2 (i) 设 ${\omega }^{\ast }\in W^{\ast }，\left(p,x\right)\in \text{ghp}{\bar{F}}^{{\omega }_{{}^t}^{\ast }}$ 。则

${\hat{D}}^{\ast }\bar{F}\left(p,x\right)\left(x^{\ast }\right)\subseteq {\hat{D}}^{\ast }{\bar{F}}^{{\omega }_t^{\ast }}\left(p,x\right)\left(x^{\ast }\right),\forall x^{\ast }\in X^{\ast }.$ (3.12)

(ii) 设 $\left(p,x\right)\in \text{ghp}\bar{F}$ 。若函数 $g_t,t\in T$ 在点 $x$ 处次可微且 $\text{ghp}\bar{F}$ 是凸集，则

${\hat{D}}^{\ast }\bar{F}\left(p,x\right)\left(x^{\ast }\right)=\underset{{\omega }_t^{\ast }\in \partial g_t\left(x\right)}{\cap }{\hat{D}}^{\ast }{\bar{F}}^{{\omega }_t^{\ast }}\left(p,x\right)\left(x^{\ast }\right),\forall x^{\ast }\in X^{\ast }.$ (3.13)

定理3.2.1 设 $\left(\bar{p},\bar{x}\right)\in \text{ghp}\bar{F}$ 。假设存在点 $x_0\in h^{-1}\left(\underset{t\in T}{\cap }\text{dom}{f}_t\right)$ ，使得 $f_t,t\in T$ 在 $h\left(x_0\right)$ 处连续。若 $p^{\ast }\in {\hat{D}}^{\ast }\bar{F}\left(\bar{p},\bar{x}\right)\left(x^{\ast }\right)$ ，则

$\left(p^{\ast },-x^{\ast },\langle p^{\ast },\bar{p}\rangle -\langle x^{\ast },\bar{x}\rangle \right)\in \underset{{\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)}{\cap }\text{cl}{\Omega }^{{\omega }_t^{\ast }}.$ (3.14)

进一步，若函数 $g_t,t\in T$ 在点 $\bar{x}$ 处次可微， $\text{ghp}\bar{F}$ 是凸集且(3.14)式成立，则 $p^{\ast }\in {\hat{D}}^{\ast }\bar{F}\left(\bar{p},\bar{x}\right)\left(x^{\ast }\right)$ 。

证明 设 $p^{\ast }\in {\hat{D}}^{\ast }\bar{F}\left(\bar{p},\bar{x}\right)\left(x^{\ast }\right),{\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)$ 。由(2.4)式和 $\text{ghp}{\bar{F}}^{{\omega }_t^{\ast }}$ 的定义可知， $\left(\bar{p},\bar{x}\right)\in \text{ghp}{\bar{F}}^{{\omega }_{{}^t}^{\ast }}$ 。又有(3.12)式成立，故 $p^{\ast }\in {\hat{D}}^{\ast }{\bar{F}}^{{\omega }_t^{\ast }}\left(\bar{p},\bar{x}\right)\left(x^{\ast }\right)$ 。从而，由定理3.1.1有

$\left(p^{\ast },-x^{\ast },\langle p^{\ast },\bar{p}\rangle -\langle x^{\ast },\bar{x}\rangle \right)\in \text{cl}{\Omega }^{{\omega }_t^{\ast }}.$

注意到，对任意的 ${\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)$ 上式皆成立，因此(3.14)式成立。

进一步，当函数 $g_t,t\in T$ 在点 $\bar{x}$ 处次可微且 $\text{ghp}\bar{F}$ 是凸集时，(3.13)式成立。故欲证 $p^{\ast }\in {\hat{D}}^{\ast }\bar{F}\left(\bar{p},\bar{x}\right)\left(x^{\ast }\right)$ ，只需证明 $p^{\ast }\in \underset{{\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)}{\cap }{\hat{D}}^{\ast }{\bar{F}}^{{\omega }_t^{\ast }}\left(\bar{p},\bar{x}\right)\left(x^{\ast }\right)$ 。结合(3.14)式及定理3.1.1知 $p^{\ast }\in {\hat{D}}^{\ast }{\bar{F}}^{{\omega }_t^{\ast }}\left(\bar{p},\bar{x}\right)\left(x^{\ast }\right)$ ， $\forall {\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)$ ，故结论成立，证毕。

由文 [11] 知，对于真函数 $h:X\to \overline{ℝ}$ 和非空子集 $\Omega \subseteq X$ ，若 $\hat{\partial }\left(h+{\delta }_{\Omega }\right)\left(x_0\right)\subseteq \hat{\partial }h\left(x_0\right)+{\hat{N}}_{\Omega }\left(x_0\right)$ ，则称函数 $h$ 在点 $x_0\in \Omega$ 处 $\text{Fr}é\text{chet}$ 可分解。

定理3.2.2 设 $\left(\bar{p},\bar{x}\right)\in \text{ghp}\bar{F}$ 是问题 $\left(\bar{P}\right)$ 的局部极小点。若存在点 $\left(p_1,x_1\right)\in {\phi }^{-1}\left(\text{dom}f\right)\cap \text{ghp}\bar{F}$ ， $x_0\in h^{-1}\left(\underset{t\in T}{\cap }\text{dom}{f}_t\right)$ 使得函数 $f,f_t,t\in T$ 分别在点 $\phi \left(p_1,x_1\right),h\left(x_0\right)$ 处连续，且对任意的 ${\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)$ ，函数 $f\circ \phi$ 在 $\left(\bar{p},\bar{x}\right)\in \text{ghp}{\bar{F}}^{{\omega }_{{}^t}^{\ast }}$ 处 $\text{Fr}é\text{chet}$ 可分解，则对任意的点 $\left(p_1^{\ast },x_1^{\ast }\right)\in \partial g\left(\bar{p},\bar{x}\right)$ ，存在点 $\left(p^{\ast },x^{\ast }\right)\in \underset{\beta \in \partial f\left(\phi \left(\bar{p},\bar{x}\right)\right)}{\cup }\partial \left(\beta \phi \right)\left(\bar{p},\bar{x}\right)$ 使得

$\left(p_1^{\ast }-p^{\ast },x_1^{\ast }-x^{\ast },-\langle p^{\ast }-p_1^{\ast },\bar{p}\rangle -\langle x^{\ast }-x_1^{\ast },\bar{x}\rangle \right)\in \underset{{\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)}{\cap }\text{cl}{\Omega }^{{\omega }_t^{\ast }}.$ (3.15)

若对任意的 ${\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)$ ，

${\Omega }^{{\omega }_t^{\ast }}$ 是弱 ${}^{\ast }$ 闭集， (3.16)

则对任意的 $\left(p_1^{\ast },x_1^{\ast }\right)\in \partial g\left(\bar{p},\bar{x}\right)$ ，存在点 $\left(p^{\ast },x^{\ast }\right)\in \underset{\beta \in \partial f\left(\phi \left(\bar{p},\bar{x}\right)\right)}{\cup }\partial \left(\beta \phi \right)\left(\bar{p},\bar{x}\right)$ ， $\lambda ={\left({\lambda }_t\right)}_{t\in T}\in {ℝ}_{+}^{\left(T\right)}$ ，使得

$\{\begin{array}{l}{p}^{\ast }-p_1^{\ast }={\displaystyle \underset{t\in \bar{T}\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t{a}_t^{\ast },}\\ x_1^{\ast }-x^{\ast }\in \underset{{\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)}{\cap }{\displaystyle \underset{t\in \bar{T}\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t\left(\underset{r_t\in \partial f_t\left(h\left(\bar{x}\right)\right)}{\cup }\partial \left(r_{t}h\right)\left(\bar{x}\right)-{\omega }_t^{\ast }\right)},\end{array}$ (3.17)

其中 $\bar{T}\left(\bar{p},\bar{x}\right):=\left\{t\in T:\left(f_t\circ h\right)\left(\bar{x}\right)-g_t\left(\bar{x}\right)=\langle a_t^{\ast },\bar{p}\rangle \right\}$ 。

证明 任取 $\left(p_1^{\ast },x_1^{\ast }\right)\in \partial g\left(\bar{p},\bar{x}\right)$ ， ${\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)$ 。设 $\left(\bar{p},\bar{x}\right)\in \text{ghp}\bar{F}$ 是问题 $\left(\bar{P}\right)$ 的局部极小点。由(2.4)式可知

$g\left(\bar{p},\bar{x}\right)=\langle p_1^{\ast },\bar{p}\rangle +\langle x_1^{\ast },\bar{x}\rangle -g^{\ast }\left(p_1^{\ast },x_1^{\ast }\right).$

定义凸函数 $H:P\times X\to \overline{ℝ}$ 为

$H\left(p,x\right):=\left(f\circ \phi \right)\left(p,x\right)-\langle p_1^{\ast },p\rangle -\langle x_1^{\ast },x\rangle +g^{\ast }\left(p_1^{\ast },x_1^{\ast }\right),\forall \left(p,x\right)\in P\times X.$

故对任意的 ${\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)$ ，点 $\left(\bar{p},\bar{x}\right)$ 亦是问题

$\begin{array}{l}\text{Min}H\left(p,x\right)\\ \text{s}\text{.t}\text{.}\left(p,x\right)\in \text{ghp}{F}^{{\omega }_t^{\ast }}\end{array}$

的极小点。于是由( [4] ，定理3.4)式知，存在点 $\left({\bar{p}}^{\ast },{\bar{x}}^{\ast }\right)\in \partial H\left(\bar{p},\bar{x}\right)$ ，使得

$$ (3.18)

由(2.5)式及引理3.1.1可知

$\text{epi}{\left({\bar{F}}_t^{{\omega }_t^{\ast }}\right)}^{\ast }=\underset{{\beta }_t\in \text{dom}{f}_t^{\ast }}{\cup }\text{epi}{\left({\beta }_{t}h-f_t^{\ast }\left({\beta }_t\right)\right)}^{\ast }-\left({\omega }_t^{\ast },g_t^{\ast }\left({\omega }_t^{\ast }\right)\right),\forall t\in T.$ (3.19)

由( [7] ，定理2.4.2)及引理3.1.1可知

$\partial H\left(p,x\right)=\partial \left(f\circ \phi \right)\left(p,x\right)-\left(p_1^{\ast },x_1^{\ast }\right)=\underset{\beta \in \partial f\left(\phi \left(p,x\right)\right)}{\cup }\partial \left(\beta \phi \right)\left(p,x\right)-\left(p_1^{\ast },x_1^{\ast }\right).$ (3.20)

结合(3.18)~(3.20)式可知，存在 $\left(p^{\ast },x^{\ast }\right)\in \underset{\beta \in \partial f\left(\phi \left(\bar{p},\bar{x}\right)\right)}{\cup }\partial \left(\beta \phi \right)\left(\bar{p},\bar{x}\right)$ ，使得

$\left(p_1^{\ast }-p^{\ast },x_1^{\ast }-x^{\ast },-\langle p^{\ast }-p_1^{\ast },\bar{p}\rangle -\langle x^{\ast }-x_1^{\ast },\bar{x}\rangle \right)\in \text{cl}{\Omega }^{{\omega }_t^{\ast }},$

又上式对任意的 ${\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)$ 均成立，故(3.15)式成立。

进一步，由(3.16)，(3.19)式可知， $\text{cone}\left(\underset{t\in T}{\cup }\left(\left\{-a_t^{\ast }\right\}\times \text{epi}{\left({\bar{F}}_t^{{\omega }_t^{\ast }}\right)}^{\ast }\right)\right)$ 也是弱 ${}^{\ast }$ 闭集。故由文( [4] ，定理3.4)知，存在 $\left({\bar{p}}^{\ast },{\bar{x}}^{\ast }\right)\in \partial H\left(\bar{p},\bar{x}\right)$ ， $\lambda ={\left({\lambda }_t\right)}_{t\in T}\in {ℝ}_{+}^{\left(T\right)}$ ，使得

$\{\begin{array}{l}{\bar{p}}^{\ast }={\displaystyle \underset{t\in T^{{\omega }_t^{\ast }}\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t{a}_t^{\ast },}\\ -{\bar{x}}^{\ast }\in {\displaystyle \underset{t\in T^{{\omega }_t^{\ast }}\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t\partial \left({\bar{F}}_t^{{\omega }_t^{\ast }}\right)\left(\bar{x}\right)},\end{array}$

其中 $T^{{\omega }_t^{\ast }}\left(\bar{p},\bar{x}\right):=\left\{t\in T:{\bar{F}}_t^{{\omega }_t^{\ast }}\left(\bar{x}\right)=\langle a_t^{\ast },\bar{p}\rangle \right\}$ 。而由( [7] ，定理2.4.2)及引理3.1.1可知

$\partial \left({\bar{F}}_t^{{\omega }_t^{\ast }}\right)\left(\bar{x}\right)=\partial \left(f_t\circ h\right)\left(\bar{x}\right)-{\omega }_t^{\ast }=\underset{r_t\in \partial f_t\left(h\left(\bar{x}\right)\right)}{\cup }\partial \left(r_{t}h\right)\left(\bar{x}\right)-{\omega }_t^{\ast },t\in T.$

从而，结合(3.20)式可知，存在点 $\left(p^{\ast },x^{\ast }\right)\in \underset{\beta \in \partial f\left(\phi \left(\bar{p},\bar{x}\right)\right)}{\cup }\partial \left(\beta \phi \right)\left(\bar{p},\bar{x}\right)$ ， ${\left({\lambda }_t\right)}_{t\in T}\in {ℝ}_{+}^{\left(T\right)}$ ，使得

$\{\begin{array}{l}{p}^{\ast }-p_1^{\ast }={\displaystyle \underset{t\in T^{{\omega }_t^{\ast }}\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t{a}_t^{\ast },}\\ x_1^{\ast }-x^{\ast }\in {\displaystyle \underset{t\in T^{{\omega }_t^{\ast }}\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t\left(\underset{r_t\in \partial f_t\left(h\left(\bar{x}\right)\right)}{\cup }\partial \left(r_{t}h\right)\left(\bar{x}\right)-{\omega }_t^{\ast }\right)}.\end{array}$

而上式对任意的 ${\omega }^{\ast }\in \underset{t\in T}{\prod }\partial g_t\left(\bar{x}\right)$ 均成立，结合(2.4)式知

$T^{{\omega }_t^{\ast }}\left(\bar{p},\bar{x}\right)=\bar{T}\left(\bar{p},\bar{x}\right):=\left\{t\in T:\left(f_t\circ h\right)\left(\bar{x}\right)-g_t\left(\bar{x}\right)=\langle a_t^{\ast },\bar{p}\rangle \right\},$

故(3.17)式成立。

结合定理3.2.2及文( [8] ，命题1.87)直接可得以下推论。

推论3.2.1 设 $\left(\bar{p},\bar{x}\right)\in \text{ghp}\bar{F}$ 是问题 $\left(\bar{P}\right)$ 的局部极小点。若对任意的 ${\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)$ ，函数 $f\circ \phi$ 在点 $\left(\bar{p},\bar{x}\right)$

处 $\text{Fr}é\text{chet}$ 可微，且存在点 $x_0\in h^{-1}\left(\underset{t\in T}{\cap }\text{dom}{f}_t\right)$ 使得 $f_t,t\in T$ 在 $h\left(x_0\right)$ 处连续，则对任意的点 $\left(p_1^{\ast },x_1^{\ast }\right)\in \partial g\left(\bar{p},\bar{x}\right)$ 有

$\begin{array}{l}(p_1^{\ast }-{\nabla }_p\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right),x_1^{\ast }-{\nabla }_x\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right),\langle p_1^{\ast }-{\nabla }_p\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right),\bar{p}\rangle \\ +\langle x_1^{\ast }-{\nabla }_x\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right),\bar{x}\rangle )\in \underset{{\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)}{\cap }\text{cl}{\Omega }^{{\omega }_t^{\ast }}.\end{array}$

若对任意的 ${\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)$ ，(3.16)式成立，则对任意的 $\left(p_1^{\ast },x_1^{\ast }\right)\in \partial g\left(\bar{p},\bar{x}\right)$ ，存在 $\lambda ={\left({\lambda }_t\right)}_{t\in T}\in {ℝ}_{+}^{\left(T\right)}$ ，使得

$\{\begin{array}{l}{\nabla }_p\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right)-p_1^{\ast }={\displaystyle \underset{t\in \bar{T}\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t{a}_t^{\ast },}\\ x_1^{\ast }-{\nabla }_x\left(f\circ \phi \right)\left(\bar{p},\bar{x}\right)\in \underset{{\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)}{\cap }{\displaystyle \underset{t\in \bar{T}\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t\left(\underset{r_t\in \partial f_t\left(h\left(\bar{x}\right)\right)}{\cup }\partial \left(r_{t}h\right)\left(\bar{x}\right)-{\omega }_t^{\ast }\right)}.\end{array}$

推论3.2.2 设 $g=0$ ，设 $\left(\bar{p},\bar{x}\right)\in \text{ghp}\bar{F}$ 是问题 $\left(\bar{P}\right)$ 的局部极小点。若对任意的 ${\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)$ ，函数 $f\circ \phi$ 在点 $\left(\bar{p},\bar{x}\right)\in \text{ghp}{\bar{F}}^{{\omega }_t^{\ast }}$ 处 $\text{Fr}é\text{chet}$ 可分解，且存在点 $\left(p_1,x_1\right)\in {\phi }^{-1}\left(\text{dom}f\right)\cap \text{ghp}\bar{F}$ ， $x_0\in h^{-1}\left(\underset{t\in T}{\cap }\text{dom}{f}_t\right)$ 使得函数 $f,f_t,t\in T$ 分别在点 $\phi \left(p_1,x_1\right),h\left(x_0\right)$ 处连续，则存在点 $\left(p^{\ast },x^{\ast }\right)\in \underset{\beta \in \partial f\left(\phi \left(\bar{p},\bar{x}\right)\right)}{\cup }\partial \left(\beta \phi \right)\left(\bar{p},\bar{x}\right)$ ，使得

$\left(-p^{\ast },-x^{\ast },-\langle p^{\ast },\bar{p}\rangle -\langle x^{\ast },\bar{x}\rangle \right)\in \underset{{\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)}{\cap }\text{cl}{\Omega }^{{\omega }_t^{\ast }}.$

若对任意的 ${\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)$ ，(3.16)式成立，则存在 $\lambda ={\left({\lambda }_t\right)}_{t\in T}\in {ℝ}_{+}^{\left(T\right)}$ ， $\left(p^{\ast },x^{\ast }\right)\in \underset{\beta \in \partial f\left(\phi \left(\bar{p},\bar{x}\right)\right)}{\cup }\partial \left(\beta \phi \right)\left(\bar{p},\bar{x}\right)$ ，使得

$\{\begin{array}{l}{p}^{\ast }={\displaystyle \underset{t\in \bar{T}\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t{a}_t^{\ast }},\\ -x^{\ast }\in \underset{{\omega }_t^{\ast }\in \partial g_t\left(\bar{x}\right)}{\cap }{\displaystyle \underset{t\in \bar{T}\left(\bar{p},\bar{x}\right)}{\sum }{\lambda }_t\left(\underset{r_t\in \partial f_t\left(h\left(\bar{x}\right)\right)}{\cup }\partial \left(r_{t}h\right)\left(\bar{x}\right)-{\omega }_t^{\ast }\right)}.\end{array}$

注3.2.1 当 $\phi ,h$ 为单位映射时，定理3.2.2转化为文( [4] 定理4.4)。因此，本文的定理3.2.2推广了文 [4] 中的相关结论。

4. 结论

本文研究了二元凸复合优化和二元 $DC$ 复合优化问题，利用变分分析中可行解集映射协导数的相关性质、共轭函数上图性质及凸化技巧，建立了这两类问题的最优性条件，推广了文 [4] 中的结论。文中利用凸化的技巧将非凸函数转化为凸函数，是一重要手段，但现实生活中非凸函数更为寻常，这种凸化手段并不一定适用于所有非凸函数。后续作者将考虑目标函数或约束函数是拟凸函数的情形，寻找新的凸化方式，从而得出系列结论。

基金项目

国家自然科学基金项目(11861033)。

NOTES

^*通讯作者。