带复合函数的分式优化问题的最优性条件

Optimality Conditions of the Fractional Optimization Problem with Composite Function

摘要: 本文通过利用次微分性质引入新的约束规范条件，在这些约束条件下建立了带复合函数的分式优化问题的最优性条件。

Abstract: This paper introduces some new constraint qualification conditions by using property of subdifferentials. Under those constraint conditions, optimality conditions of approximate solutions for the fractional optimization problems with composite functions are given.

1. 引言

分式优化问题广泛应用在实际生活中的金融领域、工程设计领域、计算机图像处理等诸多领域。通过应用分式优化理论和方法，可以找到更加有效的解决方案，提高实际问题的求解效率和质量，这对推动科技进步和社会发展具有重要意义。为此，产业部门和科研机构对分式优化问题的研究引起了高度重视。诸多学者先利用Dinkelbach的方法，将分式优化问题转化为非分式约束优化问题，再利用上图类条件、次微分性质、闭性条件等对此进行研究，对分式优化问题的最优性条件进行刻画(参看文献 [1] [2] [3] [4] [5] )。与此同时，目标函数为复合函数的问题相较于一般约束问题，展现出更高的普遍性。例如，优化问题中的凸优化问题、多目标分式规划问题、极大极小问题以及鲁棒优化问题等，均可视为复合优化的特例。这些问题因其复合性而在求解过程中具有更高的挑战性，引起学者们的极大兴趣，利用上图类条件、Fréchet次微分性质等对此进行诸多研究，得到了复合优化问题的 $KKT$ 类最优性条件、 $\epsilon$ -最优解等(参看文献 [6] [7] )。在函数不一定连续，集合不一定闭的情形下，将分式优化问题分为DC和凸优化两类讨论，学者利用上图类闭性条件、次微分性质等对DC类分式优化进行研究，得到了最优性条件，局部和全局最优解(参看文献 [8] [9] )；受此启发，本文将研究带复合函数的分式优化问题的KKT类最优性条件。

2. 预备知识

设 $X,Y,Z$ 是实局部凸 $H\text{aus}dor\text{ff}$ 拓扑向量空间，用 $X^{*},Y^{*},Z^{*}$ 分别表示他们的共轭空间，分别赋予弱^*拓扑 ${\omega }^{\ast }\left(X^{\ast },X\right)$ 和 ${\omega }^{\ast }\left(Y^{\ast },Y\right)$ 。用 $\langle x^{\ast },x\rangle$ 表示泛函 $x^{\ast }\in X^{\ast }$ 在点 $x\in X$ 的值，即 $\langle x^{\ast },x\rangle =x^{\ast }\left(x\right)$ 。设 $K$ 和 $S$ 分别是Y和Z的闭凸锥，Y和Z分别是 $K$ 和 $S$ 所定义的序空间。对于Y和Z中的 ${\le }_K和{\le }_S$ ，记 $Y^{•}:=Y\cup \left\{{\infty }_Y\right\},Z^{•}:=Z\cup \left\{{\infty }_Z\right\}$ ，其中 ${\infty }_Y，{\infty }_Z$ 分别表示Y和Z中的最大元。设 $Z$ 是 $X$ 的非空子集，记 $Z$ 的凸锥包和闭包分别为 和 $\text{cl}Z$ 。集合 $Z$ 的对偶锥定义为： $Z^{\oplus }:=\left\{x^{\ast }\in X^{\ast }:\langle x^{\ast },z\rangle \ge 0,\forall z\in Z\right\}$ ，示性函数为：

${\delta }_Z\left(x\right):=\{\begin{array}{c}0\begin{array}{cc},& x\in Z\end{array}\\ +\infty \begin{array}{cc},& 其他\end{array}\end{array}$

设 $f:X\to \bar{R}：=R\cup \left\{+\infty \right\}$ 是真函数，定义 $f$ 的有效定义域、共轭函数分别为： $domf:=\left\{x\in X:f\left(x\right)＜+\infty \right\},$ $f^{\ast }\left(x^{\ast }\right):=\sup \left\{\langle x^{\ast },x\rangle -f\left(x\right):x\in X\right\},\forall x^{\ast }\in X^{\ast }$ 。当 $f$ 是凸函数时， $f$ 在点 $x\in domf$ 的次微分定义为 $\partial f\left(x\right):=\left\{x^{\ast }\in X^{\ast }:f\left(x\right)+\langle x^{\ast },y-x\rangle \le f(y),\forall y\in X\right\}。$ 特别地，由定义有 $N_Z\left(x\right)=\partial {\delta }_Z\left(x\right),\forall x\in Z$ 。

由文 [10] 的定理2.3.1(ii)和定理2.4.2(iii)知 $\text{YoungFrechet}$ 不等式和 $\text{Young}$ 等式成立，即

$f\left(x\right)+f(x^{\ast })\ge \langle x^{\ast },x\rangle \begin{array}{cc},& \forall \left(x^{\ast },x\right)\in X\times X^{\ast }\end{array}.$

$f\left(x\right)+f^{\ast }\left(x^{\ast }\right)=\langle x^{\ast },x\rangle \iff x^{\ast }\in \partial f(x).$

设 $h:X\to \bar{R}$ 是真函数且满足 $domf\cap domh\ne \phi$ ，对任意的 $a\in domf\cap domh$ ，则

$\partial f\left(a\right)+\partial h\left(a\right)\subseteq \partial \left(f+h\right)\left(a\right)$ (1)

设 $\phi :X\to R\cup \left\{\pm \infty \right\}$ 是一个实值函数，点 $x_0\in dom\phi$ 且满足 $\left|\phi \left(x_0\right)\right|＜+\infty$ 。由文 [11] 知，定义函数 $\phi$ 在 $x_0$ 点的Fréchet次微分为：

$\hat{\partial }\phi \left(x_0\right):=\left\{x^{\ast }\in X^{\ast }:\underset{x\to x_0}{\lim \inf \frac{\phi \left(x\right)-\phi \left(x_0\right)-\langle x^{\ast },x-x_0\rangle }{\Vert x-x_0\Vert }}\ge 0\right\}.$

特别地，当 $\varphi$ 是凸函数时， $\hat{\partial }\varphi \left(x_0\right):=\partial \varphi \left(x_0\right)$ 即为凸分析中经典的次微分。由定义可知

$\partial \phi \left(x_0\right)\subseteq \hat{\partial }\phi \left(x_0\right)$ (2)

$x_0$ 为 $\phi$ 的局部最优解 $\Rightarrow$ $0\in \hat{\partial }\phi \left(x_0\right)$ (3)

且

$x_0$ 为 $\phi$ 的整体最优解 $\Rightarrow$ $0\in \partial \phi \left(x_0\right)$ (4)

特别地，当 $\phi$ 为凸函数时，对于 $\forall x_0\in dom\phi ,\hat{\partial }\phi \left(x_0\right)=\partial \left(x_0\right)$ 。令 $\phi :X\to R\cup \left\{\pm \infty \right\}$ 为另一实值函数，若 $\phi$ 和 $\phi$ 在 $x_0$ 处有限，则由文献 [8] 中的定理3.1可得

$\hat{\partial }\left(\phi -\varphi \right)\left(x_0\right)\subseteq \underset{u^{\ast }\in \hat{\partial }\phi \left(x_0\right)}{\cap }\left(\hat{\partial }\phi \left(x_0\right)-u^{\ast }\right).$ (5)

引理2.1.1 [10] 令 $f,h:X\to \bar{R}$ 是真凸函数且满足 $\text{d}omf\cap domh\ne \phi$ 。若 $f$ 或 $h$ 在 $domf\cap domh$ 上有连续点，则 $\partial \left(f+h\right)\left(a\right)=\partial f\left(a\right)+\partial h\left(a\right),\forall a\in domf\cap domh.$

3. 带复合函数的分式优化问题的最优性条件

设 $f_1:Y\to \bar{R}$ 是真凸K-增函数， $f_2:X\to Y^{•}$ 是真K-凸函数， $g:X\to \bar{R}$ 是真凸函数。记

$\left(f_1\circ f_2\right)\left(x\right):=\{\begin{array}{c}{f}_1\left(f_2\left(x\right)\right),当x\in dom{f}_2,\\ +\infty ,其他.\end{array}$

显然， $f_1\circ f_2$ 是真凸函数。

在上述条件下，考虑下面带复合函数的分式优化问题

$\left(P\right)\begin{array}{cccc}& & & \begin{array}{c}\inf \frac{\left(f_1\circ f_2\right)\left(x\right)}{g\left(x\right)}\\ s.t.\begin{array}{cc}& x\in C,h\left(x\right)\in -S\end{array}\end{array}\end{array}$

的最优性条件，利用Dinkelbach的方法，先将分式优化问题转化为下面的非分式的约束优化问题

$\left(P_{\mu }\right)\begin{array}{cccc}& & & \begin{array}{c}\inf \left\{\left(f_1\circ f_2\right)\left(x\right)-\mu g\left(x\right)\right\}\\ s.t.\begin{array}{cc}& x\in C,h\left(x\right)\in -S\end{array}\end{array}\end{array}$

其中 $\mu \in R.$

显然，问题 $P_{\mu }$ 的目标函数跟 $\mu$ 的取值相关。当 $\mu >0$ 时，问题 $P_{\mu }$ 的目标函数 $f_1\circ f_2-\mu g$ 为DC函数；而当 $\mu \le 0$ 时，易知 $f_1\circ f_2-\mu g$ 为凸函数，问题 $P_{\mu }$ 就是复合凸规划问题。令A表示系统 $\left\{x\in C,h\left(x\right)\in -S\right\}$ 的可行解集，即 $A:=\left\{x\in C,h\left(x\right)\in -S\right\}.$ 设 $x_0\in A,$ ${\mu }_0:=\frac{\left(f_1\circ f_2\right)\left(x_0\right)}{g\left(x_0\right)}$ 。没有特殊说明情形下，均假设 $A\cap dom\left(f_1\circ f_2-\mu g\right)\ne$ ，函数 $g\left(x\right)>0，\forall x\in A.$

设 $\left(\mu ,x\right)\in R\times X.$ 为简便起见，记

${\Lambda }_1\left(\mu ,x\right)=\underset{v^{\ast }\in \partial \left(\mu g\right)\left(x\right)}{\cap }\left(\underset{\beta \in \partial f_1\left(f_2\left(x\right)\right)}{\cup }\partial \left(\beta f_2\right)\left(x\right)+N_C\left(x\right)+\underset{\begin{array}{c}\lambda \in S^{\oplus },\\ \left(\lambda h\right)\left(x\right)=0\end{array}}{\cup }\partial \left(\lambda h\right)\left(x\right)-v^{\ast }\right),$

${\Lambda }_2\left(\mu ,x\right)=\underset{v^{\ast }\in \text{dom}{\left(\mu g\right)}^{\ast }}{\cap }\left(\underset{\beta \in \partial f_1\left(f_2\left(x\right)\right)}{\cup }\partial \left(\beta f_2\right)\left(x\right)+N_C\left(x\right)+\underset{\begin{array}{c}\lambda \in S^{\oplus },\\ \left(\lambda h\right)\left(x\right)=0\end{array}}{\cup }\partial \left(\lambda h\right)\left(x\right)-v^{\ast }\right).$

由定义可知 ${\Lambda }_2\left(\mu ,x\right)\subseteq {\Lambda }_1\left(\mu ,x\right),\forall \left(\mu ,x\right)\in R\times X.$

引理3.1.1 [8] 当 $x_0\in A$ 时， $x_0$ 是问题 $\left(P\right)$ 的最优解当且仅当 $x_0$ 是问题 $\left(P_{{\mu }_0}\right)$ 的最优解。

证明 令 ${\mu }_0：=\frac{\left(f_1\circ f_2\right)\left(x_0\right)}{g\left(x_0\right)}$ ，即 $\left(f_1\circ f_2\right)\left(x_0\right)-{\mu }_{0}g\left(x_0\right)=0.$ $x_0$ 是问题 $\left(P\right)$ 的最优解等价于 $\frac{\left(f_1\circ f_2\right)\left(x\right)}{g\left(x\right)}\ge \frac{\left(f_1\circ f_2\right)\left(x_0\right)}{g\left(x_0\right)}，\forall x\in A.$ 由于 $g\left(x\right)>0，\forall x\in A，$ 故上式等价于 $\left(f_1\circ f_2\right)\left(x\right)\ge {\mu }_{0}g\left(x\right).$ 显然，上式等价于 $\left(f_1\circ f_2\right)\left(x\right)-{\mu }_{0}g\left(x\right)\ge 0=\left(f_1\circ f_2\right)\left(x_0\right)-{\mu }_{0}g\left(x_0\right).$ 因此， $x_0$ 是问题 $\left(P_{{\mu }_0}\right)$ 的最优解。

3.1. μ₀ > 0的情形

本节主要对问题 $\left(P\right)$ 的最优解的特征进行刻画。首先引进下列约束规范条件：

定义3.1.1 $\left(a\right)$ 设 $\left(\mu ，x\right)\in R\times X，$ 若下列包含关系

$\hat{\partial }\left(f_1\circ f_2-\mu g+{\delta }_A\right)\left(x\right)\subseteq {\Lambda }_1\left(\mu ,x\right),$ (6)

成立，则称系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 在 $\left(\mu ,x\right)$ 处满足 $\left(FBC{Q}_1\right)$ 条件。

$\left(b\right)$ 若包含关系

$\partial \left(f_1\circ f_2-\mu g+{\delta }_A\right)\left(x\right)\subseteq {\Lambda }_1\left(\mu ,x\right),$ (7)

成立，则称系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 在 $\left(\mu ,x\right)$ 处满足 $\left(FBC{Q}_2\right)$ 条件。

注3.1.1 (i)当 $f_2=I{d}_X$ 时， $\left(FBC{Q}_1\right)$ 条件和 $\left(FBC{Q}_2\right)$ 条件分别转化为文 [5] 中的 $\left(FBCQ\right)$ 条件和 $\left(GBCQ\right)$ 条件。

(ii) 当 $f_2=g=I{d}_X$ 时， $$ 条件和 $\left(FBC{Q}_2\right)$ 条件一致并转化为文 [12] 中的 ${\left(BCQ\right)}_f$ 条件，即

$\partial \left(f+{\delta }_A\right)\left(x\right)=\partial f(x)+N_C\left(x\right)+\underset{\lambda \in S^{\oplus },\left(\lambda h\right)\left(x\right)=0}{\cup }\partial (\lambda h)\left(x\right).$

定义3.1.2 若包含关系

$\partial \left(f_1\circ f_2-\mu g+{\delta }_A\right)\left(x\right)\subseteq {\Lambda }_2\left(\mu ,x\right),$

成立，则称系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 在 $\left(\mu ,x\right)$ 处满足 $\left(BCQ\right)$ 条件。

对任意的 $x_0\in dom\left(f_1\circ f_2-{\mu }_{0}g\right)\cap A.$ 文 [6] 引入以下约束规范条件，即 $\left(CBCQ\right)$ 条件：

$\partial \left(f_1\circ f_2+{\delta }_A\right)\left(x\right)=\underset{\beta \in \partial f_1\left(f_2\left(x\right)\right)}{\cup }\partial \left(\beta f_2\right)\left(x\right)+N_C\left(x\right)+\underset{\lambda \in S^{\oplus },\left(\lambda h\right)\left(x\right)=0}{\cup }\partial \left(\lambda h\right)\left(x\right).$ (8)

命题3.1.1 令 $x_0\in dom\left(f_1\circ f_2-{\mu }_{0}g\right)\cap A.$ 若系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 在 $\left({\mu }_0,x_0\right)$ 处满足 $\left(CBCQ\right)$ 条件，则系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 在 $\left({\mu }_0,x_0\right)$ 处满足 $\left(FBC{Q}_1\right)$ 条件和 $\left(FBC{Q}_2\right)$ 条件。

证明 假设系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 在 $\left({\mu }_0,x_0\right)$ 处满足 $\left(CBCQ\right)$ 条件，则(8)式成立。若 $\partial \left({\mu }_0\text{g}\right)\left(x_0\right)=\phi$ 或 $\hat{\partial }\left(f_1\circ f_2-{\mu }_{0}g+{\delta }_A\right)\left(x_0\right)=\phi$ ，则(6)式自动成立。下设 $\partial \left({\mu }_0\text{g}\right)\left(x_0\right)\ne \phi$ 或 $\hat{\partial }\left(f_1\circ f_2-{\mu }_{0}g+{\delta }_A\right)\left(x_0\right)\ne \phi$ 。任取 $p\in \hat{\partial }\left(f_1\circ f_2-{\mu }_{0}g+{\delta }_A\right)\left(x_0\right).$ 注意到 $f_1\circ f_2+{\delta }_A$ 和g都是凸函数。故有(5)式有 $p\in \underset{v^{\ast }\in \partial \left({\mu }_{0}g\right)\left(x_0\right)}{\cap }\left(\partial \left(f_1\circ f_2+{\delta }_A\right)\left(x_0\right)-v^{\ast }\right).$ 再结合(8)式有 $p\in {\Lambda }_1\left({\mu }_0,x_0\right).$ 因此，则(6)式成立，即 $\left(FBC{Q}_1\right)$ 条件成立。又由(2)式有 $\partial \left(f_1\circ f_2-{\mu }_{0}g+{\delta }_A\right)\left(x_0\right)\subseteq \hat{\partial }\left(f_1\circ f_2-{\mu }_{0}g+{\delta }_A\right)\left(x_0\right).$ 则有 $\partial \left(f_1\circ f_2-{\mu }_{0}g+{\delta }_A\right)\left(x_0\right)\subseteq {\Lambda }_1\left({\mu }_0,x_0\right),$ 即 $\left(FBC{Q}_2\right)$ 条件成立。证毕。

下面定理刻画了问题 $\left(P\right)$ 的局部最优性条件。

定理3.1.1 令 $x_0\in dom\left(f_1\circ f_2-{\mu }_{0}g\right)\cap A.$ 假设系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 在 $\left({\mu }_0,x_0\right)$ 处满足 $\left(FBC{Q}_1\right)$ 条件，若 $x_0$ 是问题 $\left(P\right)$ 的局部最优解，则对任意的 $v^{\ast }\in \partial \left({\mu }_{0}g\right)\left(x_0\right),$ 存在 $\beta \in \partial f_1\left(f_2\left(x_0\right)\right)$ 和 $\lambda \in S^{\oplus }$ 使得 $\left(\lambda h\right)\left(x_0\right)=0$ 且

$v^{\ast }\in \partial \left(\beta f_2\right)\left(x_0\right)+N_C\left(x_0\right)+\partial \left(\lambda h\right)\left(x_0\right).$ (9)

证明 设 $x_0$ 是问题 $\left(P\right)$ 的局部最优解，由引理3.1.1可知， $x_0$ 是问题 $\left(P_{{\mu }_0}\right)$ 的局部最优解。故由(3)式有 $0\in \hat{\partial }\left(f_1\circ f_2-{\mu }_{0}g+{\delta }_A\right)\left(x_0\right)$ 。由于系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 在 $\left({\mu }_0,x_0\right)$ 处满足 $\left(FBC{Q}_1\right)$ 条件，因此 $0\in {\Lambda }_1\left({\mu }_0,x_0\right)$ 。从而对任意的 $v^{\ast }\in \partial \left({\mu }_{0}g\right)\left(x_0\right)$ ，存在 $\beta \in \partial f_1\left(f_2\left(x_0\right)\right)$ 和 $\lambda \in S^{\oplus }$ 使得 $\left(\lambda h\right)\left(x_0\right)=0$ 且(9)式成立。证毕。

根据命题3.1.1和定理3.1.1可得以下结论。

推论3.1.1 设 $x_0\in dom\left(f_1\circ f_2-{\mu }_{0}g\right)\cap A.$ 假设系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 在 $\left({\mu }_0,x_0\right)$ 处满足 $\left(CBCQ\right)$ 条件，若 $x_0$ 是问题 $\left(P\right)$ 的局部最优解，则对任意的 $v^{\ast }\in \partial \left({\mu }_{0}g\right)\left(x_0\right)$ ，存在 $\beta \in \partial f_1\left(f_2\left(x_0\right)\right)$ 和 $\lambda \in S^{\oplus }$ 使得 $\left(\lambda h\right)\left(x_0\right)=0$ 且(9)式成立。

下面定理刻画了问题 $\left(P\right)$ 的全局最优性条件。

定理3.1.2 令 $x_0\in dom\left(f_1\circ f_2-{\mu }_{0}g\right)\cap A.$ 假设在 $\left({\mu }_0,x_0\right)$ 处，系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 满足 $\left(FBC{Q}_2\right)$ 条件，若 $x_0$ 是问题 $\left(P\right)$ 的全局最优解当且仅当对任意的 $v^{\ast }\in \partial \left({\mu }_{0}g\right)\left(x_0\right),$ 存在 $\beta \in \partial f_1\left(f_2\left(x_0\right)\right)$ 和 $\lambda \in S^{\oplus }$ 使得 $\left(\lambda h\right)\left(x_0\right)=0$ 且(9)式成立。

证明 由引理3.1.1和(4)式可知， $x_0$ 是问题 $\left(P\right)$ 的全局最优解当且仅 $0\in \partial \left(f_1\circ f_2-{\mu }_{0}g+{\delta }_A\right)\left(x_0\right).$ 由于 $\left(FBC{Q}_2\right)$ 条件成立，因此上式又等价于 $0\in {\Lambda }_1\left({\mu }_0,x_0\right)$ 。即对任意的 $v^{\ast }\in \partial \left({\mu }_{0}g\right)\left(x_0\right),$ 存在 $\beta \in \partial f_1\left(f_2\left(x_0\right)\right)$ 和 $\lambda \in S^{\oplus }$ 使得 $\left(\lambda h\right)\left(x_0\right)=0$ 且(9)式成立。证毕。

由命题3.1.1和定理3.1.2可的得下面定理。

定理3.1.3 令 $x_0\in dom\left(f_1\circ f_2-{\mu }_{0}g\right)\cap A.$ 若在 $\left({\mu }_0,x_0\right)$ 处，系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 满足 $\left(CBCQ\right)$ 条件，则 $x_0$ 是问题 $\left(P\right)$ 的全局最优解必满足：对任意的 $v^{\ast }\in \partial \left({\mu }_{0}g\right)\left(x_0\right)$ ，存在 $\beta \in \partial f_1\left(f_2\left(x_0\right)\right)$ 和 $\lambda \in S^{\oplus }$ 使得 $\left(\lambda h\right)\left(x_0\right)=0$ 且(9)式成立。

3.2. μ₀ ≤ 0的情形

当 ${\mu }_0\le 0$ 时，问题 $\left(P_{{\mu }_0}\right)$ 的目标函数 $f_1\circ f_2-{\mu }_{0}g$ 是凸函数，由于凸函数的局部最优解与整体最优解完全一致，因此本节只需考虑问题 $\left(P\right)$ 的全局最优性条件即可。为方便起见，记 $\Phi \left(\mu ,x\right)=\underset{\beta \in \partial f_1\left(f_2\left(x\right)\right)}{\cup }\partial \left(\beta f_2\right)\left(x\right)+\partial \left(-\mu g\right)\left(x\right)+N_C\left(x\right)+\underset{\lambda \in S^{\oplus },\left(\lambda h\right)\left(x\right)=0}{\cup }\partial \left(\lambda h\right)\left(x\right)$ ，其中 $\mu \le 0，x_0\in A$ 。

引理3.2.1 [10] 设 $g:X\to \overline{ℝ}$ 是真凸函数， $\phi :\text{dom}\phi \subset X\to Z^{•}$ 是真 $K-$ 凸函数， $f:Z\to \overline{ℝ}$ 为真凸函数且在 $\phi \left(\text{dom}\phi \right)+K$ 上是 $K-$ 增函数。若存在点 $x_0\in \text{dom}g+{\phi }^{-1}\left(\text{dom}f\right)$ 使得函数 $f$ 在 $\phi \left(x_0\right)$ 处连续，则对任意的 $x\in \text{dom}g+{\phi }^{-1}\left(\text{dom}f\right)$ ，有 $\partial \left(f\circ \varphi +g\right)\left(x\right)=\underset{\beta \in \partial f\left(\varphi \right)}{\cup }\partial \left(\beta \varphi +g\right)\left(x\right)$ 。

故由引理3.2.1作以下定义。

定义3.2.1 若

$\partial \left(f_1\circ f_2-\mu g+{\delta }_A\right)\left(x\right)\subseteq \Phi \left(\mu ,x\right)$ (10)

成立，则称系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 在 $\left(\mu ,x\right)$ 处满足 $\left(\overline{BCQ}\right)$ 条件。

注3.2.1 (i) 当 $\mu =0$ 时， $\left(\overline{BCQ}\right)$ 条件转化为文 [6] 中的 $\left(CBCQ\right)$ 条件，即(8)式成立。

(ii) 当 $f_2=I{d}_X$ 时， $\left(\overline{BCQ}\right)$ 条件分别转化为文 [5] 中的 $\left(SBCQ\right)$ 条件。

(iii) 当 $f_2=g=I{d}_X$ 时， $\left(\overline{BCQ}\right)$ 条件一致并转化为文 [11] 中的 ${\left(BCQ\right)}_f$ 条件。

命题3.2.1 设 $x_0\in dom\left(f_1\circ f_2-{\mu }_{0}g\right)\cap A.$ 若系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 在 $\left({\mu }_0,x_0\right)$ 处满足 $\left(\overline{BCQ}\right)$ 条件当且仅当

$\partial \left(f_1\circ f_2-{\mu }_{0}g+{\delta }_A\right)\left(x_0\right)\subseteq \Phi \left({\mu }_0,x_0\right)$ (11)

证明 设 $x_0\in dom\left(f_1\circ f_2-{\mu }_{0}g\right)\cap A.$ 欲证系统满足 $\left(\overline{BCQ}\right)$ 条件与(11)式等价只需证

$\Phi \left({\mu }_0,x_0\right)\subseteq \partial \left(f_1\circ f_2-{\mu }_{0}g+{\delta }_A\right)\left(x_0\right)$ (12)

由文( [6] ，引理3.1)可得

$\underset{\beta \in \partial f_1\left(f_2\left(x\right)\right)}{\cup }\partial \left(\beta f_2\right)\left(x_0\right)+N_C\left(x_0\right)+\underset{\lambda \in S^{\oplus },\left(\lambda h\right)\left(x\right)=0}{\cup }\partial \left(\lambda h\right)\left(x\right)\subseteq \partial \left(f_1\circ f_2+{\delta }_A\right)\left(x_0\right),$

两边同时加上 $\partial \left(-{\mu }_0\text{g}\right)\left(x_0\right),$

$\begin{array}{l}\Phi \left(\mu ，x\right)=\underset{\beta \in \partial f_1\left(f_2\left(x_0\right)\right)}{\cup }\partial \left(\beta f_2\right)\left(x_0\right)+\partial \left(-{\mu }_{0}g\right)\left(x_0\right)+N_C\left(x_0\right)+\underset{\lambda \in S^{\oplus },\left(\lambda h\right)\left(x_0\right)=0}{\cup }\partial \left(\lambda h\right)\left(x_0\right)\\ \begin{array}{ccc}& & \begin{array}{cc}& =\partial \left(f_1\circ f_2+{\delta }_A\right)\end{array}\end{array}\left(x_0\right)+\partial \left(-{\mu }_{0}g\right)\left(x_0\right),\end{array}$

从而由(1)式可得(12)式成立。证毕。

命题3.2.2 设 $x_0\in dom\left(f_1\circ f_2-{\mu }_{0}g\right)\cap A.$ 假设在 $x_0$ 处系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 满足 $\left(CBCQ\right)$ 条件。若 在 $dom\left(f_1\circ f_2-{\mu }_{0}g\right)\cap A$ 上有连续点，则系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 在 $\left({\mu }_0,x_0\right)$ 处满足 $\left(\overline{BCQ}\right)$ 条件。

证明 假设g在 $dom\left(f_1\circ f_2-{\mu }_{0}g\right)\cap A$ 上有连续点，由于 $\left(f_1\circ f_2+{\delta }_A\right)$ 和g都是凸函数，故结合引理2.1.1有 $\partial \left(f_1\circ f_2-{\mu }_{0}g+{\delta }_A\right)\left(x_0\right)=\partial \left(f_1\circ f_2+{\delta }_A\right)\left(x_0\right)+\partial \left(-{\mu }_{0}g\right)\left(x_0\right).$ 由 $\left(CBCQ\right)$ 条件可知(11)式成立。从而由命题3.2.1可知 $\left(\overline{BCQ}\right)$ 条件成立。证毕。

定理3.2.1 设 $x_0\in dom\left(f_1\circ f_2-{\mu }_{0}g\right)\cap A.$ 假设在 $x_0$ 处，系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 满足 $\left(\overline{BCQ}\right)$ 条件，则 $x_0$ 是问题 $\left(P\right)$ 的最优解必满足存在 $\beta \in \partial f_1\left(f_2\left(x_0\right)\right)$ 和使得 $\left(\lambda h\right)\left(x_0\right)=0$ 且

$0\in \partial \left(\beta f_2\right)\left(x_0\right)+\partial \left(-{\mu }_{0}g\right)\left(x_0\right)+N_C\left(x_0\right)+\partial \left(\lambda h\right)\left(x_0\right)$ (13)

证明 由引理3.1.1和(4)式可知， $x_0$ 是问题 $\left(P\right)$ 的最优解必满足

$0\in \partial \left(f_1\circ f_2-{\mu }_{0}g+{\delta }_A\right)\left(x_0\right).$ (14)

由于 $\left(\overline{BCQ}\right)$ 条件成立，(14)式等价于 $0\in \Phi \left({\mu }_0,x_0\right)$ ，即存在 $\beta \in \partial f_1\left(f_2\left(x_0\right)\right)$ 和 $\lambda \in S^{\oplus }$ 使得 $\left(\lambda h\right)\left(x_0\right)=0$ 且(13)式成立。由此可知结论成立。

根据命题3.2.2和定理3.2.1可得以下结论。

推论3.2.1 若 $g$ 在 $dom\left(f_1\circ f_2-{\mu }_{0}g\right)\cap A$ 上存在连续点，如果在 $\left({\mu }_0,x_0\right)$ 处，系统 $\left\{f_1,f_2,g,{\delta }_C,\lambda h:\lambda \in S^{\oplus }\right\}$ 满足条件，那么 $x_0$ 是问题 $\left(P\right)$ 的最优解当且仅当存在 $\beta \in \partial f_1\left(f_2\left(x_0\right)\right)$ 和 $\lambda \in S^{\oplus }$ 使得 $\left(\lambda h\right)\left(x_0\right)=0$ 且(13)式成立。

4. 总结

本文主要研究了带复合函数的分式优化问题的最优性条件。在函数不一定是下半连续，集合不一定是闭集的情形下，利用次微分性质，通过寻找新的约束规范性条件，等价刻画了带复合函数的分式优化问题的最优性条件，推广了一般分式优化问题和复合凸优化的相关结果。在现实中很多问题的条件并不是确定的，因此，后续作者将在约束条件不确定和目标函数与约束条件都不确定的条件下，研究带复合函数的分式优化问题的最优性条件。

基金项目

国家自然科学基金项目(11861033)。

NOTES

^*通讯作者。