一类带有临界增长的广义拟线性SchrO^¨dinger-Poisson系统基态变号解的存在性

Existence of the Ground State Sign-Changing Solution for a Class of Generalized Quasilinear SchrO^¨dinger-Poisson System

摘要: 在这篇文章当中，我们研究了如下Schrödinger-Poisson系统其中是边界光滑的有界区域，。对f,g施加适当的条件，若μ足够大，通过利用约束变分方法和形变引理，得到了该系统对于每一个λ>0都有相对应的基态变号解ν_λ，并且基态变号解的能量严格大于二倍基态解的能量。

Abstract: In this paper, we study the following Schrödinger-Poisson system where is a bounded domain with a smooth boundary , , under suitable conditions of f,g, by using constraint variational method and the quantitative deformation lemma, if μ is large enough, we obtain a ground state sign-changing solution ν_λ to this problem for each λ>0, and its energy is strictly large than twice that of the ground state solutions.

1. 引言

本文研究如下Schrödinger-Poisson系统，

$\{\begin{array}{l}-div\left(g^2\left(u\right)\nabla u\right)+g\left(u\right)g^{\prime }\left(u\right){\left|\nabla u\right|}^2+\lambda \varphi G\left(u\right)g\left(u\right)\\ =\mu f\left(u\right)+{\left|G\left(u\right)\right|}^{4}G\left(u\right)g\left(u\right),x\in \Omega ,\\ -\Delta \varphi =G^2\left(u\right),x\in \Omega ,\\ u,\varphi =0,x\in \Omega ,\end{array}$ (1.1)

其中 $\Omega$ 是 ${ℝ}^3$ 中有界光滑区域 $\mu ,\lambda >0$，函数 $f\in C{}^1\left(R,R\right)$， $g\in C{}^1\left(R,R^{+}\right)$。

一方面，系统(1.1)源于如下拟线性薛定谔方程

$i{\partial }_{t}z=-\Delta z\text{+}W\left(x\right)z-k\left(x,\left|z\right|\right)-\Delta l\left({\left|z\right|}^2\right)l^{\prime }\left({\left|z\right|}^2\right)z,$ (1.2)

其中 $z:ℝ\times {ℝ}^N\to ℂ,W:{ℝ}^N\to ℝ$ 是势函数， $l:ℝ\to ℝ,k:{ℝ}^N\times ℝ\to ℝ$ 是合适函数。对于各种类型的 $l$，可以演绎成不同的Schrödinger方程，且具有不同的物理意义。特别的，在文献 [1] [2] 中，若 $l\left(s\right)=s$，则方程(1.2)表示的是流体力学超流体膜方程。对于更多的物理背景，可以参考文献 [3] [4] [5] [6]。设 $z\left(t,x\right)=\exp \left(-iEt\right)u\left(x\right)$，其中 $E\in ℝ$ 且 $u$ 是实函数，则方程(1.2)即为如下椭圆型方程，

$-\Delta u+V\left(x\right)u-\Delta l\left(u^2\right)l^{\prime }\left(u^2\right)u=h\left(x,u\right),x\in {ℝ}^N.$ (1.3)

如果取 $g^2\left(u\right)=1+\frac{{\left[{\left(l^2\left(u\right)\right)}^{\prime }\right]}^2}{2}$，则方程(1.3)为如下拟线性椭圆方程 [7]，

$-div\left(g^2\left(u\right)\nabla u\right)+g\left(u\right)g^{\prime }\left(u\right){\left|\nabla u\right|}^2+V\left(x\right)u=h\left(x,u\right),x\in {ℝ}^N.$ (1.4)

另一方面，系统(1.1)源于如下的Schrödinger-Poisson系统，

$\{\begin{array}{l}-\Delta u+V\left(x\right)u+\lambda \varphi u=f\left(u\right),x\in {ℝ}^3,\\ -\Delta \varphi =u^2,x\in {ℝ}^3.\end{array}$ (1.5)

系统(1.5)来自带有时间变量的Schrödinger-Poisson系统在物理学被用来描述量子粒子和自身运动所产生的电磁场的相互作用 [8] [9] [10] [11]。由于系统(1.5)中含有 ${\phi }_{u}u$ 这一项，表明(1.5)不是一个逐点成立的等式，称 ${\phi }_{u}u$ 为非局部项。非局部项的出现让问题变得更加有趣。近年来，系统(1.5)引起了广大学者的关注，尤其是正解，多解，变号解，基态解和半经典解的存在性，具体可以参考文献 [12] - [20]。

在文献 [17] 中，当 $f\left(u\right)={\left|u\right|}^{p-1}u$ 时，运用约束变分方法结合Brouwer度理论，Wang和Zhou证明了系统(1.5)对于所有的 $\lambda >0$ 有一个极小能量变号解。在文献 [20] 中，运用约束极小变分方法和形变引理，Shuai和Wang证明了(1.5)变号解的存在性，并且得到了系统(1.5)变号解的能量严格大于二倍基态解的能量。在文献 [21] 中，当 $f\left(u\right)$ 在原点附近满足线性增长而在无穷远处满足3次线性增长条件下，运用变号Nehari流形的技巧，Zhong和Tang证明了系统(1.5)极小能量变号解的存在性和渐近行为。

在文献 [22] 中，Wang，Zhang和Guan研究了如下临界Schrödinger-Poisson系统，

$\{\begin{array}{l}-\Delta u+V\left(x\right)u+\lambda \varphi u={\left|u\right|}^{4}u+\mu f\left(u\right),x\in {\mathbb{Z}}^3,\\ -\Delta \varphi =u^2,x\in {ℝ}^3,\end{array}$ (1.6)

其中 $V\left(x\right)$ 是光滑函数， $\mu ,\lambda >0$。通过对非线性 $f$ 施加适当的条件，当参数 $\mu$ 充分大的时候，运用约束变分方法和形变引理，作者证明了系统(1.6)极小能量变号解的存在性和能量特征。

最近，在文献 [23] 中，Zhu，Li和Liang研究了如下的广义Schrödinger-Poisson系统，

$\{\begin{array}{l}-div\left(g^2\left(u\right)\nabla u\right)+g\left(u\right)g^{\prime }\left(u\right){\left|\nabla u\right|}^2+V\left(x\right)u\\ +\mu \varphi G\left(u\right)g\left(\left(u\right)\right)=K\left(x\right)f\left(u\right),x\in {ℝ}^3,\\ -\Delta \varphi =G^2\left(u\right),x\in {ℝ}^3.\end{array}$ (1.7)

当势在无穷远处消失时，作者运用山路定理证明了系统(1.7)基态解的存在性。随后，在文献 [24] 中，Chen，Tang和Cheng利用一些新的分析技巧和Non-Nehari流形方法获得了系统(1.7)基态变号解的存在性和能量特征。

受上述工作尤其是文献 [17] [20] [21] [22] [24] 的启发，自然的考虑对于系统(1.7)而言能不能在临界条件下讨论其变号解问题，即如何讨论系统(1.1)基态变号解的存在性？

对于函数 $f,g$，我们假设 $f\in C{}^1\left(ℝ,ℝ\right)$， $g\in C{}^1\left(ℝ,{ℝ}^{+}\right)$ 满足下列条件：

(F₁) $\underset{t\to 0}{\lim }\frac{f\left(t\right)}{g\left(t\right)G^3\left(t\right)}=0$ ；

(F₂) 存在 $q\in \left(2,6\right)$ 使得 $\underset{t\to \infty }{\lim }\frac{f\left(t\right)}{g\left(t\right)G^{q-1}\left(t\right)}=0$ ；

(F₃) $\frac{f\left(t\right)}{g\left(t\right)G^3\left(t\right)}$ 是关于 $t\in ℝ\backslash \left\{0\right\}$ 的增函数。

设 $H_0^1\left(\Omega \right)$ 是标准的Hilbert空间，其上的范数为 ${\Vert u\Vert }^2={\displaystyle {\int }_{\Omega }{\left|\nabla u\right|}^2}\text{d}x$。注意到，对任意的 $u\in H_0^1\left(\Omega \right)$，记 ${\varphi }_u$ 是 $-\Delta \varphi =u^2$ 在 $D^{1,2}\left({ℝ}^3\right)$ 中的唯一解，且

${\varphi }_u\left(x\right)=\frac{1}{4\text{π}}{\displaystyle {\int }_{R^3}\frac{u^2\left(x\right)}{\left|x-y\right|}\text{d}y}$.

任意的 $u\in H_0^1\left(\Omega \right)$，如果 $G\left(u\right)\in H_0^1\left(\Omega \right)$，则 ${\varphi }_{G\left(u\right)}$ 是 $-\Delta \varphi =G^2\left(u\right)$ 在 $D^{1,2}\left({ℝ}^3\right)$ 中的弱解，且

${\varphi }_{G\left(u\right)}\left(x\right)=\frac{1}{4\text{π}}{\displaystyle {\int }_{R^3}\frac{G^2\left(u\left(y\right)\right)}{\left|x-y\right|}\text{d}y},a.e.x\in {ℝ}^3.$

将 ${\varphi }_{G(u)}$ 带入(1.1)式，系统(1.1)转化为关于 $u$ 的微分方程，其相对应的能量泛函定义为

$J_{\lambda }^{\mu }\left(u\right)=\frac{1}{2}{\displaystyle \underset{\Omega }{\int }{g}^2\left(u\right){\left|\nabla u\right|}^2\text{d}x+\frac{\lambda }{4}{\displaystyle \underset{\Omega }{\int }{\varphi }_{G\left(u\right)}{G}^2\left(u\right)\text{d}x-\mu {\displaystyle \underset{\Omega }{\int }F\left(u\right)\text{d}x}}}-\frac{1}{6}{\displaystyle \underset{\Omega }{\int }{\left|G\left(u\right)\right|}^6\text{d}x}.$

因为 ${\displaystyle \underset{\Omega }{\int }{g}^2\left(u\right){\left|\nabla u\right|}^2\text{d}x}$ 在 $H_0^1\left(\Omega \right)$ 不能很好的定义，为了克服这个困难，Shen和Wang [18] 对其进行了变量替换

$u=G^{-1}\left(v\right),且G\left(u\right)={\displaystyle \underset{0}{\overset{u}{\int }}g\left(t\right)\text{d}t},\forall v\in H_0^1\left(\Omega \right)$,

则

${\displaystyle \underset{\Omega }{\int }{g}^2\left(u\right){\left|\nabla u\right|}^2\text{d}x}={\displaystyle \underset{\Omega }{\int }{g}^2\left(G^{-1}\left(v\right)\right){\left|\nabla G^{-1}\left(v\right)\right|}^2\text{d}x}:={\displaystyle \underset{\Omega }{\int }{\left|\nabla v\right|}^2\text{d}x}<\infty$

则系统(1.1)相对应的能量泛函为，

$J_{\lambda }^{\mu }\left(u\right)=\frac{\text{1}}{\text{2}}{\displaystyle \underset{\Omega }{\int }{\text{g}}^2\left(G^{-1}\left(v\right)\right){\left|\nabla G^{-1}\left(v\right)\right|}^2\text{d}x+\frac{\lambda }{4}{\displaystyle \underset{\Omega }{\int }{\varphi }_v{v}^2\text{d}x}}-\mu {\displaystyle \underset{\Omega }{\int }F\left(G^{-1}\left(v\right)\right)\text{d}x}-\frac{1}{6}{\displaystyle \underset{\Omega }{\int }{\left|v\right|}^6\text{d}x,x\in \Omega }.$ (1.8)

如果 $v\in C^2\left(\Omega \right)$ 是(1.8)的临界点，则 $u=G^{-1}\left(v\right)\in C^2\left(\Omega \right)$ 是系统(1.1)的经典解。为了得到(1.8)的临界点，我们只需要寻找如下系统的弱解，

$\{\begin{array}{l}-\Delta v+\lambda \varphi v=\mu \frac{f\left(G^{-1}\left(v\right)\right)}{g\left(G^{-1}\left(v\right)\right)}+{\left|v\right|}^{4}v,x\in \Omega ,\\ -\Delta \varphi =v^2,x\in \Omega ,\underset{\begin{array}{l}\\ \end{array}}{}\\ v,\varphi =0,x\in \partial \Omega .\end{array}$ (1.9)

因此 $v\in H_0^1\left(\Omega \right)$ 是系统(1.9)的弱解当且仅当

${\displaystyle \underset{\Omega }{\int }\nabla v\nabla \phi \text{d}x}+\lambda {\displaystyle \underset{\Omega }{\int }{\varphi }_{v}v\phi \text{d}x}=\mu {\displaystyle \underset{\Omega }{\int }\frac{f\left(G^{-1}(v)\right)}{g\left(G^{-1}(v)\right)}\phi \text{d}x}+{\displaystyle \underset{\Omega }{\int }{\left|v\right|}^{4}v\phi \text{d}x},\forall \phi \in H_0^1\left(\Omega \right).$

为使问题变得简单，我们将系统(1.9)写成如下的形式，

$\{\begin{array}{l}-\Delta v+\lambda \varphi v=\mu \tilde{f}+{\left|v\right|}^{4}v,x\in \Omega ,\\ -\Delta \varphi =v^2,x\in \Omega ,\\ v,\varphi =0,x\in \partial \Omega .\end{array}$ (1.10)

其中 $\tilde{f}\left(v\right)=\frac{f\left(G^{-1}\left(v\right)\right)}{g\left(G^{-1}\left(v\right)\right)},\tilde{F}\left(v\right)={\displaystyle \underset{0}{\overset{v}{\int }}\tilde{f}\left(t\right)\text{d}t}={\displaystyle \underset{0}{\overset{v}{\int }}\frac{f\left(G^{-1}\left(t\right)\right)}{g\left(G^{-1}\left(t\right)\right)}\text{d}t}.$

与(1.10)相对应的能量泛函为：

$J_{\lambda }^{\mu }\left(v\right)=\frac{\text{1}}{\text{2}}{\displaystyle \underset{\Omega }{\int }{\left|\nabla v\right|}^2\text{d}x+\frac{\lambda }{4}{\displaystyle \underset{\Omega }{\int }{\varphi }_v{v}^2\text{d}x-\mu {\displaystyle \underset{\Omega }{\int }\tilde{F}\left(v\right)\text{d}x}}}-\frac{1}{6}{\displaystyle \underset{\Omega }{\int }{\left|v\right|}^6\text{d}x,}x\in \Omega ,$ (1.11)

并且 $J_{\lambda }^{\mu }\left(v\right)$ 的Fréchet导数为，

$\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime },\psi \rangle ={\displaystyle \underset{\Omega }{\int }\nabla v\nabla \psi \text{d}x}+\lambda {\displaystyle \underset{\Omega }{\int }{\varphi }_{v}v\psi \text{d}x}-{\displaystyle \underset{\Omega }{\int }\tilde{f}\left(v\right)\psi \text{d}x}-{\displaystyle \underset{\Omega }{\int }{\left|v\right|}^{4}v\psi \text{d}x},\forall \psi \in H_0^1\left(\Omega \right).$ (1.12)

令

$M_{\lambda }^{\mu }=\left\{v\in H_0^1\left(\Omega \right)\backslash \left\{0\right\},v^{\pm }\ne 0,\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v\right),v^{\pm }\rangle =0\right\}$,

$N_{\lambda }^{\mu }=\left\{v\in H_0^1\left(\Omega \right)\backslash \left\{0\right\}|\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v\right),v\rangle =0\right\}.$

主要结果如下：

定理1.1 如果系统(1.10)满足条件(f₁)~(f₃)，则存在 ${\mu }^{\ast }>0$ 对任意的 $\mu \ge {\mu }^{\ast }$ 系统(1.10)有一个极小能量变号解 $v_{\lambda }$，它有两个变号区域，且满足 $J_{\lambda }^{\mu }\left(v_{\lambda }\right)=\underset{v\in M_{\lambda }^{\mu }}{\inf }{J}_{\lambda }^{\mu }\left(v\right)=c_{\lambda }^{\mu }$。

定理1.2 如果系统(1.10)满足条件(f₁)~(f₃)，则存在 ${\mu }^{\ast \ast }>0$ 对任意的 $\mu \ge {\mu }^{\ast \ast }$， $c^{\ast }>0$ 是可达的，并且 $J_{\lambda }^{\mu }\left(v_{\lambda }\right)>2c^{\ast }$，其中 $c^{\ast }=\underset{v\in N_{\lambda }^{\mu }}{\inf }{J}_{\lambda }^{\mu }\left(v\right)$， $v_{\lambda }$ 是定理1.1中的极小能量变号解。

2. 几个重要的引理

引理2.1. 若条件(F₁)~(F₃)成立，则有：

(f₁) $\underset{s\to 0}{\lim }\frac{\tilde{f}}{s^3}=0$ ；

(f₂) $\underset{s\to \infty }{\lim }\frac{\tilde{f}}{s^{q-1}}=0$ ；

(f₃) $\frac{\tilde{f}}{{\left|s\right|}^3}$ 是关于 $s\in ℝ\backslash \left\{0\right\}$ 的增函数。

证明：令 $s=G\left(t\right)$，可以得到，

$\underset{s\to 0}{\lim }\frac{\tilde{f}}{s^3}=\underset{s\to 0}{\lim }\frac{f\left(G^{-1}\left(s\right)\right)}{g\left(G^{-1}\left(s\right)\right)s^3}=\underset{t\to 0}{\lim }\frac{f\left(t\right)}{g\left(t\right)G^3\left(t\right)}=0$,

所以条件(f₁)成立。

$\underset{s\to \infty }{\lim }\frac{\tilde{f}}{s^{q-1}}=\underset{s\to 0}{\lim }\frac{f\left(G^{-1}\left(s\right)\right)}{g\left(G^{-1}\left(s\right)\right)s^{q-1}}=\underset{t\to 0}{\lim }\frac{f\left(t\right)}{g\left(t\right)G^{q-1}\left(t\right)}=0,$

所以条件(f₂)成立。

$\frac{\tilde{f}}{{\left|s\right|}^3}=\frac{f\left(G^{-1}\left(s\right)\right)}{g\left(G^{-1}\left(s\right)\right){\left|s\right|}^3}=\frac{f\left(t\right)}{g\left(t\right)G^3\left(t\right)}$,

所以条件(f₃)成立。

引理2.2 [10]. 对任意的 $v\in H_0^1\left(\Omega \right)$，有下列性质：

1) 存在 $C>0$ 使得 ${\displaystyle \underset{\Omega }{\int }{\varphi }_v{v}^2\text{d}x\le C{\Vert v\Vert }^4,\forall v\in H_0^1\left(\Omega \right)}$ ；

2) ${\varphi }_v\ge 0,\forall v\in H_0^1\left(\Omega \right)$ ；

3) ${\varphi }_{tv}=t^2{\varphi }_v,\forall t>0,v\in H_0^1\left(\Omega \right)$ ；

4) 如果 $v_n\underset{弱}{\to }\text{v}$ 在 $H_0^1\left(\Omega \right)$，则 ${\varphi }_{v_n}\underset{弱}{\to }{\varphi }_{\text{v}}$ 在 $H_0^1\left(\Omega \right)$，且

$\underset{\text{n}\to \infty }{\lim }{\displaystyle \underset{\Omega }{\int }{\varphi }_{v_n}{v}_n^2}\text{d}x={\displaystyle \underset{\Omega }{\int }{\varphi }_v{v}^2\text{d}x.}$

令 $v\in H_0^1\left(\Omega \right)$ 且 $v^{\pm }\ne 0$，定义函数 ${\psi }_v:\left[0,\infty \right)\times \left[0,\infty \right)\to ℝ$ 和映射 $W_v:\left[0,\infty \right)\times \left[0,\infty \right)\to {ℝ}^2$ 如下：

${\psi }_v\left(s,t\right)=J_{\lambda }^{\mu }\left(s{v}^{+}+t{v}^{-}\right),W_v\left(s,t\right)=\left(\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(s{v}^{+}+t{v}^{-}\right),s{v}^{+}\rangle ,\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(s{v}^{+}+t{v}^{-}\right),t{v}^{-}\rangle \right)$

引理2.3. 假如系统(1.10)满足条件(f₁)~(f₃)，如果 $v\in H_0^1\left(\Omega \right)$ 且 $v^{\pm }\ne 0$，则 ${\psi }_v$ 有以下两条性质：

1) $\left(s,t\right)$ 关于 $s$， $t>0$ 是 ${\psi }_v$ 的临界点当且仅当 $s{v}^{+}+t{v}^{-}\in M_{\lambda }^{\mu }$ ；

2) 函数 ${\psi }_v$ 关于 $\left(0,\infty \right)\times \left(0,\infty \right)$ 有唯一的临界点 $\left(s_v,t_v\right)$，也是 ${\psi }_v$ 在 $\left[0,\infty \right)\times \left[0,\infty \right)$ 唯一的最大值点；而且，如果 $\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v\right),v^{\pm }\rangle \le 0$，则 $0<s_v$， $t_v\le 1$。

证明：引理2.3与文献 [17] [22] 证明类似，这里就不再详细证明了。

引理2.4. 若 $c_{\lambda }^{\mu }=\underset{v\in M_{\lambda }^{\mu }}{\inf }{J}_{\lambda }^{\mu }\left(v\right)$，则可以得到

$\underset{\mu \to \infty }{\lim }{c}_{\lambda }^{\mu }=0$.

证明：引理2.4与文献 [22] 证明过程类似，这里不再详细介绍。

引理2.5存在 ${\mu }^{\text{*}}>0$ 使得 $\mu \ge {\mu }^{*}$，下确界 $c_{\lambda }^{\mu }$ 是可达的。

证明：根据 $c_{\lambda }^{\mu }$ 的定义，存在极小化序列 $\left\{v_n\right\}\subset {{\rm M}}_{\lambda }^{\mu }$ 使得

$\underset{n\to \infty }{\lim }{J}_{\lambda }^{\mu }\left(v_n\right)=c_{\lambda }^{\mu }$.

显然地， $v\in H_0^1\left(\Omega \right)\left\{v_n\right\}$ 在 $H_0^1\left(\Omega \right)$ 里是有界的，存在 $\left\{v_n\right\}$ 的子列，不妨仍用 $\left\{v_n\right\}$ 表示，存在使得 $v_n\rightharpoonup v$。

因为 $H_0^1\left(\Omega \right)\to L^p\left(\Omega \right)$ 是紧嵌入，所以对于 $p\in \left(2,6\right)$，有

$v_n\to v$ 在 $L^p\left(\Omega \right)$ 上，

$v_n\left(x\right)\to v\left(x\right)$ 几乎处处都在 $x\in \Omega$ 上。

因此，

$v_n{}^{\pm }\rightharpoonup v^{\pm }$ 在 $H_0^1\left(\Omega \right)$ 上，

$v_n{}^{\pm }\to v^{\pm }$ 在 $L^p\left(\Omega \right)$ 上，

$v_n{}^{\pm }\to v^{\pm }$ 几乎处处都在 $x\in \Omega$ 上。

记 $\beta :=\frac{1}{3}{S}^{\frac{3}{2}}$，其中 $S:=\underset{v\in H_0^1(\Omega )\backslash \left\{0\right\}}{\inf }\frac{{\Vert v\Vert }^2}{{\left({\displaystyle {\int }_{\Omega }{\left|v\right|}^6\text{d}x}\right)}^{\frac{1}{3}}}$。

根据引理2.4，存在 ${\mu }^{\text{*}}>0$ 使得 $\mu \ge {\mu }^{*}$， $c_{\lambda }^{\mu }<\beta$。固定 $\mu \ge {\mu }^{*}$，由引理2.3对于任意的 $s,t\ge 0$ 有

$J_{\lambda }^{\mu }\left(s{v}_n^{+}+t{v}_n^{-}\right)\le J_{\lambda }^{\mu }\left(v_n\right)$.

因此，通过Brezis-Lieb引理，Fatou引理，得到

$\begin{array}{c}\underset{n\to \infty }{\lim \inf }{J}_{\lambda }^{\mu }\left(s{v}_n^{+}+t{v}_n^{-}\right)\\ =\frac{s^2}{2}\underset{n\to \infty }{\lim }\left({\Vert v_n^{+}-v^{+}\Vert }^2+{\Vert v^{+}\Vert }^2\right)+\frac{t^2}{2}\underset{n\to \infty }{\lim }\left({\Vert v_n^{-}-v^{-}\Vert }^2+{\Vert v^{-}\Vert }^2\right)\\ +\frac{\lambda s^4}{4}\underset{n\to \infty }{\lim \inf }{\displaystyle {\int }_{\Omega }{\varphi }_{v_n^{+}}{\left|v_n^{+}\right|}^2\text{d}x+}\frac{\lambda t^4}{4}\underset{n\to \infty }{\lim \inf }{\displaystyle {\int }_{\Omega }{\varphi }_{v_n^{-}}{\left|v_n^{-}\right|}^2\text{d}x}\\ -\frac{s^6}{6}\underset{n\to \infty }{\lim }\left({\left|v_n^{+}-v^{+}\right|}_6^6+{\left|v^{+}\right|}_6^6\right)+\frac{t^6}{6}\underset{n\to \infty }{\lim }\left({\left|v_n^{-}-v^{-}\right|}_6^6+{\left|v^{-}\right|}_6^6\right)-\mu {\displaystyle {\int }_{\Omega }\tilde{F}\left(s{u}^{+}\right)\text{d}x-\mu }{\displaystyle {\int }_{\Omega }\tilde{F}\left(t{v}^{-}\right)\text{d}x}\end{array}$

$\begin{array}{c}+\frac{\lambda s^2{t}^2}{4}\underset{n\to \infty }{\lim \inf }{\displaystyle {\int }_{\Omega }{\varphi }_{v_n^{+}}{\left|v_n^{-}\right|}^2\text{d}x+}\frac{\lambda s^2{t}^2}{4}\underset{n\to \infty }{\lim \inf }{\displaystyle {\int }_{\Omega }{\varphi }_{v_n^{-}}{\left|v_n^{+}\right|}^2\text{d}x}\\ \ge J_{\lambda }^{\mu }\left(s{v}^{+}+t{v}^{-}\right)+\frac{s^2}{2}\underset{n\to \infty }{\lim }{\Vert v_n^{+}-v^{+}\Vert }^2+\frac{t^2}{2}\underset{n\to \infty }{\lim }{\Vert v_n^{-}-v^{-}\Vert }^2\\ -\frac{s^6}{6}\underset{n\to \infty }{\lim }{\left|v_n^{+}-v^{+}\right|}_6^6-\frac{t^6}{6}\underset{n\to \infty }{\lim }{\left|v_n^{-}-v^{-}\right|}_6^6\\ \ge J_{\lambda }^{\mu }\left(s{v}^{+}+t{v}^{-}\right)+\frac{s^2}{2}{A}_1-\frac{s^6}{6}{B}_1+\frac{t^2}{2}{A}_2-\frac{t^6}{6}{B}_2,\end{array}$

其中，

$\begin{array}{l}{A}_1=\underset{n\to \infty }{\lim }{\Vert v_n^{+}-v^{+}\Vert }^2,A_2=\underset{n\to \infty }{\lim }{\Vert v_n^{-}-v^{-}\Vert }^2,\\ B_1=\underset{n\to \infty }{\lim }{\left|v_n^{+}-v^{+}\right|}_6^6,B_2=\underset{n\to \infty }{\lim }{\left|v_n^{-}-v^{-}\right|}_6^6.\end{array}$

按照上述事实，对任意的 $s\ge 0$， $t\ge 0$，可以得到

$J_{\lambda }^{\mu }\left(s{v}^{+}+t{v}^{-}\right)+\frac{s^2}{2}{A}_1-\frac{s^6}{6}{B}_1+\frac{t^2}{2}{A}_2-\frac{t^6}{6}{B}_2\le c_{\lambda }^{\mu }$ (2.1)

首先，证明 $v^{\pm }\ne 0$。

因为 $v^{-}\ne 0$ 的证明过程与 $v^{+}\ne 0$ 一样，所以我们只需证明 $v^{+}\ne 0$。不妨假设 $v^{+}=0$，分两种情况进行讨论。

第一种情况： $B_1=0$。

当 $A_1=0$，也就是， $v_n{}^{+}\to v^{+}$ 在 $H_0^1\left(\Omega \right)$。在引理2.3，我们得到 $\Vert v^{+}\Vert >0$，与我们的假设相矛盾。当 $A_1>0$，按照(2.1)，对任意的 $s\ge 0$，则有 $\frac{s^2}{2}{A}_1\le c_{\lambda }^{\mu }$ 这是不可能的，得到矛盾。

第二种情况： $B_1>0$。

根据 $S$ 的定义，推出

$\beta =\frac{1}{3}{S}^{\frac{3}{2}}\le \frac{1}{3}{\left(\frac{A_1}{{\left(B_1\right)}^{\frac{1}{3}}}\right)}^{\frac{3}{2}}$.

并且利用微分法，可以得到 $\left(s,0\right)$

$\frac{1}{3}{\left(\frac{A_1}{{\left(B_1\right)}^{\frac{1}{3}}}\right)}^{\frac{3}{2}}=\underset{s\ge 0}{\max }\left\{\frac{s^2}{2}{A}_1-\frac{s^6}{6}{B}_1\right\}$.

由于 $c_{\lambda }^{\mu }<\beta$，根据(2.1)，就有

$\beta \le \underset{s\ge 0}{\max }\left\{\frac{s^2}{2}{A}_1-\frac{s^6}{6}{B}_1\right\}<\beta$，

产生矛盾。

从上面的两种情况中，证明了 $v^{\pm }\ne 0$。

其次，证明： $B_1=B_2=0$。

因为 $B_2=0$ 证明方法一样，所以只需证明 $B_1=0$。不妨假设 $B_1>0$，分两种情况进行讨论。

第一种情况： $B_2>0$。

设 $\tilde{s}$ 和 $\tilde{t}$ 满足

$\frac{{\tilde{s}}^2}{2}{A}_1-\frac{{\tilde{s}}^6}{6}{B}_1=\underset{s\ge 0}{\max }\left\{\frac{s^2}{2}{A}_1-\frac{s^6}{6}{B}_1\right\}$,

$\frac{{\tilde{t}}^2}{2}{A}_2-\frac{{\tilde{t}}^6}{6}{B}_2=\underset{t\ge 0}{\max }\left\{\frac{t^2}{2}{A}_2-\frac{t^6}{6}{B}_2\right\}$.

按照 $\left[0,\tilde{s}\right]\times \left[0,\tilde{t}\right]$ 是闭集且 ${\psi }_v$ 是连续的，则存在 $\left(s_v,t_v\right)\in \left[0,\tilde{s}\right]\times \left[0,\tilde{t}\right]$ 使得

${\psi }_v\left(s_v,t_v\right)=\underset{\left(s,t\right)\in \left[0,\tilde{s}\right]\times \left[0,\tilde{t}\right]}{\max }{\psi }_v\left(s,t\right)$.

接下来，证明 $\left(s_v,t_v\right)\in \left(0,\tilde{s}\right)\times \left(0,\tilde{t}\right)$。

可以看出来如果 $t$ 足够小，就可以得到对任意的 $s\in \left[0,\tilde{s}\right]$

${\psi }_v\left(s,0\right)=J_{\lambda }^{\mu }\left(s{v}^{+}\right)<J_{\lambda }^{\mu }\left(s{v}^{+}\right)+J_{\lambda }^{\mu }\left(t{v}^{-}\right)\le J_{\lambda }^{\mu }\left(s{v}^{+}+t{v}^{-}\right)={\psi }_v\left(s,t\right)$,

因此，存在 $t_0\in \left[0,\tilde{t}\right]$ 使得对所有的 $s\in \left[0,\tilde{s}\right]$，

${\psi }_v\left(s,0\right)\le {\psi }_v\left(s,t_0\right)$

即，当 $0\le s\le \tilde{s}$ 时，不是 ${\psi }_v$ 的最大值点。因此 $\left(s_v,t_v\right)\notin \left[0,\tilde{s}\right]\times \left\{0\right\}$。同理，可以得 $\left(s_v,t_v\right)\notin \left\{0\right\}\times \left[0,\tilde{t}\right]$。

从另一方面来说，很容易证明 $s\in \left(0,\tilde{s}\right]$， $t\in \left(0,\tilde{t}\right]$

$\frac{s^2}{2}{A}_1-\frac{t^6}{6}{B}_1>0$, (2.2)

$\frac{t^2}{2}{A}_2-\frac{t^6}{6}{B}_2>0$, (2.3)

则对于任意的 $s\in \left[0,\tilde{s}\right]$ 和任意的 $t\in \left[0,\tilde{t}\right]$，有

$\beta \le \frac{{\tilde{s}}^2}{2}{A}_1-\frac{{\tilde{s}}^6}{6}{B}_1+\frac{t^2}{2}{A}_2-\frac{t^6}{6}{B}_2$,

$\beta \le \frac{{\tilde{t}}^2}{2}{A}_2-\frac{{\tilde{t}}^6}{6}{B}_2+\frac{s^2}{2}{A}_1-\frac{s^6}{6}{B}_1$,

因此，按照(2.1)，则对于所有的 $s\in \left[0,\tilde{s}\right]$， $t\in \left[0,\tilde{t}\right]$，

${\psi }_v\left(s,\tilde{t}\right)\le 0,{\psi }_v\left(\tilde{s},t\right)\le 0$,

因此， $\left(s_v,t_v\right)\notin \left\{\tilde{s}\right\}\times \left[0,\tilde{t}\right]$ 和 $\left(s_v,t_v\right)\notin \left[0,\tilde{s}\right]\times \left\{\tilde{t}\right\}$。

综上所述，得到 $\left(s_v,t_v\right)\in \left(0,\tilde{s}\right)\times \left(0,\tilde{t}\right)$。由引理2.3知 $\left(s_v,t_v\right)$ 是 ${\psi }_v$ 的临界点。因此， $s_v{v}^{+}+t_v{v}^{-}\in {\mathcal{M}}_{\lambda }^{\mu }$。

所以，综合(2.1)，(2.2)和(2.3)，就得出

$\begin{array}{c}{c}_{\lambda }^{\mu }\ge J_{\lambda }^{\mu }\left(s_v{v}^{+}+t_v{v}^{-}\right)+\frac{s_v^2}{2}{A}_1-\frac{s_v^6}{6}{B}_1+\frac{t_v^2}{2}{A}_2-\frac{t_v^6}{6}{B}_2\\ \ge J_{\lambda }^{\mu }\left(s_v{v}^{+}+t_v{v}^{-}\right)\\ \ge c_{\lambda }^{\mu }\end{array}$

产生矛盾，即第一种情况不成立。

第二种情况： $B_2=0$。

在这种情况下，只需证明最值点在 $\left[0,\tilde{s}\right]\times \left[0,\infty \right)$ 里面。因为存在 $t_0\in \left[0,\infty \right)$，对于任意的 $\left(s,t\right)\in \left[0,\tilde{s}\right]\times \left[t_0,\infty \right)$ 使得 $J_{\lambda }^{\mu }\left(s{v}^{+}+t{v}^{-}\right)\le 0$，所以，这有 $\left(s_v,t_v\right)\in \left[0,\tilde{s}\right]\times \left[0,\infty \right)$ 满足

${\psi }_v\left(s_v,t_v\right)=\underset{\left(s,t\right)\in \left[0,\tilde{s}\right]\times \left[0,\infty \right)}{\max }{\psi }_v\left(s,t\right)$.

接下来，证明 $\left(s_v,t_v\right)\in \left(0,\tilde{s}\right)\times \left(0,\infty \right)$。

对于 $s\in \left[0,\tilde{s}\right]$ 且 $t$ 是足够小，显然有 ${\psi }_v\left(s,0\right)<{\psi }_v\left(s,t\right)$，因此有 $\left(s_v,t_v\right)\notin \left[0,\tilde{s}\right]\times \left\{0\right\}$。

与此同时，对于 $t\in \left[0,\infty \right)$ 且 $s$ 足够小时， ${\psi }_v\left(0,t\right)<{\psi }_v\left(s,t\right)$，可以得出 $\left(s_v,t_v\right)\notin \left\{0\right\}\times \left[0,\infty \right)$。

从另一方面来看，显然对任意的 $t\in \left[0,\infty \right)$

$\beta \le \frac{{\tilde{s}}^2}{2}{A}_1-\frac{{\tilde{s}}^6}{6}{B}_1+\frac{t^2}{2}{A}_2$,

即对任意的 $t\in \left[0,\infty \right)$，有 ${\psi }_v\left(\tilde{s},t\right)\le 0$。所以 $\left(s_v,t_v\right)\notin \left\{\tilde{s}\right\}\times \left[0,\infty \right)$。通过分析可知 $\left(s_v,t_v\right)\in \left(0,\tilde{s}\right)\times \left(0,\infty \right)$。也就是说， $\left(s_v,t_v\right)$ 是 ${\psi }_v$ 关于 $\left[0,\tilde{s}\right]\times \left[0,\infty \right)$ 内部的极大值点。因此 $s_v{v}^{+}+t_v{v}^{-}\in {\mathcal{M}}_{\lambda }^{\mu }$。

因此，根据(2.2)，有

$\begin{array}{c}{c}_{\lambda }^{\mu }\ge J_{\lambda }^{\mu }\left(s_v{v}^{+}+t_v{v}^{-}\right)+\frac{s_v^2}{2}{A}_1-\frac{s_u^6}{6}{B}_1+\frac{t_v^2}{2}{A}_2\\ \ge J_{\lambda }^{\mu }\left(s_v{v}^{+}+t_v{v}^{-}\right)\\ \ge c_{\lambda }^{\mu }\end{array}$

这样就得出矛盾，即第二种情况不成立。

所以，从上面的讨论中，可以得到 $B_1=B_2=0$。

最后证明 $c_{\lambda }^{\mu }$ 是可达的。

对于 $v^{\pm }\ne 0$，根据引理2.3，存在 $s_v,t_v>0$ 使得 $\tilde{v}:=s_v{v}^{+}+t_v{v}^{-}\in {\mathcal{M}}_{\lambda }^{\mu }$。此外，这里我们很容易证明

$\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v\right),v^{\pm }\rangle \le 0$

因此 $0<s_v,t_v<1$。

因为 $v_n\in {\mathcal{M}}_{\lambda }^{\mu }$，结合条件(f₁)和(f₃)， $B_1=B_2=0$ 和范数在 $H_0^1\left(\Omega \right)$ 是弱下半连续的，可得

$\begin{array}{c}{c}_{\lambda }^{\mu }\le J_{\lambda }^{\mu }\left(\tilde{v}\right)-\frac{1}{4}\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(\tilde{v}\right),\tilde{v}\rangle \\ =\frac{1}{4}{\Vert \tilde{v}\Vert }^2+\frac{1}{12}{\left|\tilde{v}\right|}_6^6+\frac{\mu }{4}{\displaystyle {\int }_{\Omega }\left[\tilde{f}\left(\tilde{u}\right)\tilde{v}-4\tilde{F}\left(\tilde{v}\right)\right]\text{d}x}\\ =\frac{1}{4}\left({\Vert s_v{v}^{+}\Vert }^2+{\Vert t_v{v}^{-}\Vert }^2\right)+\frac{1}{12}\left({\left|s_v{v}^{+}\right|}_6^6+{\left|t_v{v}^{-}\right|}_6^6\right)+\frac{\mu }{4}{\displaystyle {\int }_{\Omega }\left[\tilde{f}\left(s_v{v}^{+}\right)\left(s_v{v}^{+}\right)-4\tilde{F}\left(s_v{v}^{+}\right)\right]\text{d}x}\\ +\frac{\mu }{4}{\displaystyle {\int }_{\Omega }\left[\tilde{f}\left(t_v{v}^{-}\right)\left(t_v{v}^{-}\right)-4\tilde{F}\left(t_v{v}^{-}\right)\right]\text{d}x}\end{array}$

$\begin{array}{l}\le \frac{1}{4}{\Vert v\Vert }^2+\frac{1}{12}{\left|v\right|}_6^6+\frac{\mu }{4}{\displaystyle {\int }_{\Omega }\left[\tilde{f}\left(v\right)v-4\tilde{F}\left(v\right)\right]\text{d}x}\\ \le \underset{n\to \infty }{\lim \inf }\left[J_{\lambda }^{\mu }\left(v_n\right)-\frac{1}{4}\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v_n\right),v_n\rangle \right]\\ \le \underset{n\to \infty }{\lim \inf }{J}_{\lambda }^{\mu }\left(v_n\right)\\ =c_{\lambda }^{\mu }\end{array}$

所以， $s_v=t_v=1$，并且当 $v_{\lambda }:=v^{+}+v^{-}\in {\mathcal{M}}_{\lambda }^{\mu }$， $c_{\lambda }^{\mu }$ 是可达的。

3. 主要结果的证明

定理1.1的证明

反证法，若 ${\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v_{\lambda }\right)\ne 0$，则存在 $\delta >0$ 和 $\theta >0$ 使得

$\Vert {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v\right)\Vert \ge \theta ,\forall \Vert v-v_{\lambda }\Vert \le 3\delta .$

因为 $v_{\lambda }\in {{\rm M}}_{\lambda }^{\mu }$，根据引理2.3，对于任意的 $\left(s,t\right)\in \left(R_{+}\times R_{+}\right)\backslash \left(1,1\right)$ 有

$J_{\lambda }^{\mu }\left(s{v}_{\lambda }^{+}+t{v}_{\lambda }^{-}\right)<J_{\lambda }^{\mu }\left(v_{\lambda }^{+}+v_{\lambda }^{-}\right)=c_{\lambda }^{\mu },$ (3.1)

选取 $\sigma \in \left(0,\min \{1/3,\frac{\delta }{\sqrt{2}\Vert v_{\lambda }\Vert }\}\right)$，令 $D:=\left(1-\sigma ,1+\sigma \right)\times \left(1-\sigma ,1+\sigma \right)$ 和 $g\left(s,t\right)=s{v}_{\lambda }^{+}+t{v}_{\lambda }^{\mu }$， $\left(s,t\right)\in D$。根据(3.1)，可以证明

${\bar{c}}_{\lambda }^{\mu }:=\underset{\partial D}{\max }J\circ g<c_{\lambda }^{\mu }.$ (3.2)

设 $\epsilon :=\text{min}\left\{\left(c_{\lambda }^{\mu }-{\bar{c}}_{\lambda }^{\mu }\right)/2,\theta \delta /8\right\}$ 和 $S_{\delta }:=B\left(v_{\lambda },\delta \right)$，根据形变引理，存在一个形变 $\eta \in C\left(\left[0,1\right]\times H_0^1\left(\Omega \right),H_0^1\left(\Omega \right)\right)$ 满足

1) $\eta \left(1,v\right)=v$，若 $v\notin {\left(J_{\lambda }^{\mu }\right)}^{-1}\left(\left[c_{\lambda }^{\mu }-2\epsilon ,c_{\lambda }^{\mu }+2\epsilon \right]\right)\cap S_{2\delta }$ ；

2) $\eta \left(1,{\left(J_{\lambda }^{\mu }\right)}^{c_{\lambda }^{\mu }+\epsilon }\cap S_{\delta }\right)\subset {\left(J_{\lambda }^{\mu }\right)}^{c_{\lambda }^{\mu }-\epsilon }$ ；

3) $J_{\lambda }^{\mu }\left(\eta \left(1,v\right)\right)\le J_{\lambda }^{\mu }\left(v\right)$，对所有的 $v\in H_0^1\left(\Omega \right)$。

首先，需要证明

$\underset{(s,t)\in \bar{D}}{\max }{J}_{\lambda }^{\mu }\left(\eta \left(1,g\left(s,t\right)\right)\right)<c_{\lambda }^{\mu }.$ (3.3)

事实上，由引理2.3，可得 $J_{\lambda }^{\mu }\left(g\left(s,t\right)\right)\le c_{\lambda }^{\mu }<c_{\lambda }^{\mu }+\epsilon$。即 $g\left(s,t\right)\in {\left(J_{\lambda }^{\mu }\right)}^{c_{\lambda }^{\mu }+\epsilon }$。

另一方面，因为

$\begin{array}{c}{\Vert g\left(s,t\right)-v_{\lambda }\Vert }^2={\Vert \left(s-1\right)v_{\lambda }^{+}+\left(t-1\right)v_{\lambda }^{-}\Vert }^2\\ \le 2\left({\left(s-1\right)}^2{\Vert v_{\lambda }^{+}\Vert }^2+\left(t-1\right){\Vert v_{\lambda }^{-}\Vert }^2\right)\\ \le 2{\sigma }^2{\Vert v_{\lambda }\Vert }^2<{\delta }^2,\end{array}$

所以对于任意的 $\left(s,t\right)\in \bar{D}$， $g\left(s,t\right)\in S_{\delta }$。因此，根据(b)，可以得到 $I_{\lambda }^{\mu }\left(\eta \left(1,g\left(s,t\right)\right)\right)<c_{\lambda }^{\mu }-\epsilon$，所以(3.3)成立。

下面我们证明 $\eta \left(1,g\left(D\right)\right)\cap {{\rm M}}_{\lambda }^{\mu }\ne \Phi$。

设 $h\left(s,t\right):=\eta \left(1,g\left(s,t\right)\right)$，

$\begin{array}{c}{\psi }_0\left(s,t\right):=\left(\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(g\left(s,t\right)\right),v_{\lambda }^{+}\rangle ,\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(g\left(s,t\right)\right),v_{\lambda }^{-}\rangle \right)\\ :=\left(\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(s{v}_{\lambda }^{+}+t{v}_{\lambda }^{-}\right),v_{\lambda }^{+}\rangle ,\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(s{v}_{\lambda }^{+}+t{v}_{\lambda }^{-}\right),v_{\lambda }^{-}\rangle \right)\\ :=\left({\varphi }_v^1\left(s,t\right),{\varphi }_v^2\left(s,t\right)\right).\end{array}$

和

${\psi }_1\left(s,t\right):=\left(\frac{1}{s}\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(h\left(s,t\right)\right),{\left(h\left(s,t\right)\right)}^{+}\rangle ,\frac{1}{t}\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(h\left(s,t\right)\right),{\left(h\left(s,t\right)\right)}^{-}\rangle \right).$

直接计算可以得到：

${\frac{\partial {\phi }_v^1\left(s,t\right)}{\partial s}|}_{(1,1)}={\Vert v_{\lambda }^{+}\Vert }^2+3\lambda {{\displaystyle {\int }_{\Omega }\varphi }}_{v_{\lambda }^{+}}{\left|v_{\lambda }^{+}\right|}^2\text{d}x+\lambda {{\displaystyle {\int }_{\Omega }\varphi }}_{v_{\lambda }^{-}}{\left|v_{\lambda }^{+}\right|}^2\text{d}x-5{\left|v_{\lambda }^{+}\right|}_6^6-\mu {\displaystyle {\int }_{\Omega }{\tilde{f}}^{\prime }\left(v_{\lambda }^{+}\right)}{\left(v_{\lambda }^{+}\right)}^2\text{d}x$

${\frac{\partial {\phi }_v^1\left(s,t\right)}{\partial t}|}_{(1,1)}=2\lambda {{\displaystyle {\int }_{\Omega }\varphi }}_{v_{\lambda }^{-}}{\left|v_{\lambda }^{+}\right|}^2\text{d}x,{\frac{\partial {\phi }_v^2\left(s,t\right)}{\partial s}|}_{(1,1)}=2\lambda {{\displaystyle {\int }_{\Omega }\varphi }}_{v_{\lambda }^{+}}{\left|v_{\lambda }^{-}\right|}^2\text{d}x,$

${\frac{\partial {\phi }_v^2\left(s,t\right)}{\partial t}|}_{(1,1)}={\Vert v_{\lambda }^{-}\Vert }^2+3\lambda {\displaystyle {\int }_{\Omega }{\varphi }_{{}_{v_{\lambda }^{-}}}}{\left|v_{\lambda }^{-}\right|}^2\text{d}x+\lambda {{\displaystyle {\int }_{\Omega }\varphi }}_{v_{\lambda }^{+}}{\left|v_{\lambda }^{-}\right|}^2\text{d}x-5{\left|v_{\lambda }^{-}\right|}_6^6-\mu {\displaystyle {\int }_{\Omega }{\tilde{f}}^{\prime }\left(v_{\lambda }^{-}\right)}{\left(v_{\lambda }^{-}\right)}^2\text{d}x$

令

$M=\left|\begin{array}{cc}{\frac{\partial {\phi }_v^1\left(s,t\right)}{\partial s}|}_{(1,1)}& {\frac{\partial {\phi }_v^2\left(s,t\right)}{\partial s}|}_{(1,1)}\\ {\frac{\partial {\phi }_v^1\left(s,t\right)}{\partial t}|}_{(1,1)}& {\frac{\partial {\phi }_v^2\left(s,t\right)}{\partial t}|}_{(1,1)}\end{array}\right|.$

根据条件(f₃)，若 $s\ne 0$，有 ${\tilde{f}}^{\prime }\left(s\right)s^2-3\tilde{f}\left(s\right)s>0$。

因为 $v_{\lambda }\in {{\rm M}}_{\lambda }^{\mu }$，可以得到 $\det M>0$

因为 ${\psi }_0\left(s,t\right)$ 是连续可微的且(1,1)是 ${\psi }_0$ 唯一的孤立推出零点，通过度理论，可以推出 $\mathrm{deg}\left({\psi }_0,D,0\right)=1$。

因此，结合(3.2)和(a)，可知在 $\partial D$ 上， $g\left(s,t\right)=h\left(s,t\right)$。所以，可以得到 $\mathrm{deg}\left({\psi }_1,D,0\right)=1$。因此，存在 $\left(s_0,t_0\right)\in D$， ${\psi }_1\left(s_0,t_0\right)=0$。所以 $\eta \left(1,g\left(s_0,t_0\right)\right)=h\left(s_0,t_0\right)\in {{\rm M}}_{\lambda }^{\mu }$，这与(3.33)矛盾。

从上面的讨论中，得到了 $v_{\lambda }$ 是(1.10)的变号解。

最后，证明 $v_{\lambda }$ 有两个变号区域。不妨假设

$v_{\lambda }=v_1+v_2+v_3$

且

$v_i\ne 0,v_1\ge 0,v_2\le 0$, $\sup pt\left(v_i\right)\cap \sup pt\left(v_j\right)=\Phi$, $i\ne j,i,j=1,2,3$,

和

$\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v_{\lambda }\right),v_i\rangle =0,i=1,2,3.$

设 $v:=v_1+v_2$，则 $v^{+}=v_1,v^{-}=v_2$，即 $v^{\pm }\ne 0$。那么，存在唯一一对正实数 $\left(s_v,t_v\right)$ 使得 $s_v{v}_1+t_v{v}_2\in {{\rm M}}_{\lambda }^{\mu }$。

就得到

$J_{\lambda }^{\mu }\left(s_v{v}_1+t_v{v}_2\right)\ge c_{\lambda }^{\mu }.$

根据 $\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v_{\lambda }\right),v_i\rangle =0$，得到 $\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v\right),v^{\pm }\rangle <0$。

因此，利用引理2.3，有

$\left(s_v,t_v\right)\in \left(0,1\right]\times \left(0,1\right].$

另一方面，有

$\begin{array}{c}0=\frac{1}{4}\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v_{\lambda }\right),v_3\rangle \\ =\frac{1}{4}{\Vert v_{\text{3}}\Vert }^2+\frac{\lambda }{4}{\displaystyle {\int }_{\Omega }{\varphi }_{v_1}}{\left|v_{\text{3}}\right|}^2\text{d}x+\frac{\lambda }{4}{\displaystyle {\int }_{\Omega }{\varphi }_{v_2}}{\left|v_3\right|}^2\text{d}x+\frac{\lambda }{4}{\displaystyle {\int }_{\Omega }{\varphi }_{v_3}}{\left|v_3\right|}^2\text{d}x-\frac{\lambda }{4}{\displaystyle {\int }_{\Omega }{\left|v_3\right|}^6\text{d}x}-\frac{\mu }{4}{\displaystyle {\int }_{\Omega }\tilde{f}\left(v_3\right)}{v}_3\text{d}x\\ <J_{\lambda }^{\mu }\left(v_3\right)+\frac{\lambda }{4}{\displaystyle {\int }_{\Omega }{\varphi }_{v_1}}{\left|v_3\right|}^2\text{d}x+\frac{\lambda }{4}{\displaystyle {\int }_{\Omega }{\varphi }_{v_1}}{\left|v_3\right|}^2\text{d}x.\end{array}$

因此，结合条件 $\left(f_1\right)$ 和 $\left(f_3\right)$ 可以得到

$\begin{array}{c}{c}_{\lambda }^{\mu }\le J_{\lambda }^{\mu }\left(s_v{v}_1+t_v{v}_2\right)=J_{\lambda }^{\mu }\left(s_v{v}_1+t_v{v}_2\right)-\frac{1}{4}\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(s_v{v}_1+t_v{v}_2\right),\left(s_v{v}_1+t_v{v}_2\right)\rangle \\ =\frac{1}{4}\left({\Vert s_v{v}_1\Vert }^2+{\Vert t_v{v}_2\Vert }^2\right)+\frac{\mu }{4}{\displaystyle {\int }_{\Omega }\left[\tilde{f}\left(s_v{v}_1\right)\left(s_v{v}_1\right)-4\tilde{F}\left(s_v{v}_1\right)\right]\text{d}x}+\frac{\mu }{4}{\displaystyle {\int }_{\Omega }\left[\tilde{f}\left(t_v{v}_2\right)\left(t_v{v}_2\right)-4\tilde{F}\left(s_v{v}_2\right)\right]\text{d}x}\\ +\frac{s_v^6}{12}{{\displaystyle {\int }_{\Omega }\left|v_1\right|}}^6\text{d}x+\frac{t_v^6}{12}{{\displaystyle {\int }_{\Omega }\left|v_2\right|}}^6\text{d}x\\ \le \frac{1}{4}\left({\Vert v_1\Vert }^2+{\Vert v_2\Vert }^2\right)+\frac{\mu }{4}{\displaystyle {\int }_{\Omega }\left[\tilde{f}\left(v_1\right)\left(v_1\right)-4\tilde{F}\left(v_1\right)\right]\text{d}x}+\frac{\mu }{4}{\displaystyle {\int }_{\Omega }\left[\tilde{f}\left(v_2\right)\left(v_2\right)-4\tilde{F}\left(v_2\right)\right]\text{d}x}+\frac{1}{12}{{\displaystyle {\int }_{\Omega }\left|v_1\right|}}^6\text{d}x+\frac{1}{12}{{\displaystyle {\int }_{\Omega }\left|v_2\right|}}^6\text{d}x\end{array}$

$\begin{array}{c}=J_{\lambda }^{\mu }\left(v_1+v_2\right)-\frac{1}{4}\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v_1+v_2\right),\left(v_1+v_2\right)\rangle \\ =J_{\lambda }^{\mu }\left(v_1+v_2\right)+\frac{1}{4}\langle {\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v_{\lambda }\right),v_3\rangle +\frac{\lambda }{4}{{\displaystyle {\int }_{\Omega }{\varphi }_{v_1}\left|v_3\right|}}^2\text{d}x+\frac{\lambda }{4}{{\displaystyle {\int }_{\Omega }{\varphi }_{v_2}\left|v_3\right|}}^2\text{d}x\\ <J_{\lambda }^{\mu }\left(v_1\right)+J_{\lambda }^{\mu }\left(v_2\right)+J_{\lambda }^{\mu }\left(v_3\right)+\frac{\lambda }{4}{{\displaystyle {\int }_{\Omega }{\phi }_{v_2+v_3}\left|v_1\right|}}^2\text{d}x+\frac{\lambda }{4}{{\displaystyle {\int }_{\Omega }{\phi }_{v_1+v_3}\left|v_2\right|}}^2\text{d}x+\frac{\lambda }{4}{{\displaystyle {\int }_{\Omega }{\phi }_{v_1+v_2}\left|v_3\right|}}^2\text{d}x\\ =J_{\lambda }^{\mu }\left(v_{\lambda }\right)\\ =c_{\lambda }^{\mu },\end{array}$

矛盾，所以 $v_3=0$ 且 $v_{\lambda }$ 有两个变号区域。

至此，定理1.1证明完成。

定理1.2的证明

与引理2.5的证明类似，存在 ${\mu }_1^{*}>0$ 使得对所有 $\mu \ge {\mu }_1^{*}$，对于每一个 $\lambda >0$，都存在相对应的 $v_{\lambda }^{\ast }\in {{\rm N}}_{\lambda }^{\mu }$ 满足 $J_{\lambda }^{\mu }\left(v_{\lambda }^{\ast }\right)=c^{*}>0$。与定理1.1证明方法类似，可以得到泛函 $J_{\lambda }^{\mu }$ 在 ${{\rm N}}_{\lambda }^{\mu }$ 的临界点是泛函 $J_{\lambda }^{\mu }$ 在 $H_0^1\left(\Omega \right)$ 的临界点和 ${\left(J_{\lambda }^{\mu }\right)}^{\prime }\left(v_{\lambda }^{\ast }\right)=0$。换句话说， $v_{\lambda }^{\ast }$ 是系统(1.10)的基态解。

对于所有 $\mu \ge {\mu }^{*}$，根据定理1.1，对于每一个 $\lambda >0$，可以得到(1.10)有一个最小能量变号解 $v_{\lambda }$。

设

${\mu }^{**}=\max \left\{{\mu }^{*},{\mu }_1^{*}\right\}.$

假设 $v_{\lambda }=v^{+}+v^{-}$。同引理2.3的证明类似，存在 $s_{v^{+}}$， $t_{v^{-}}\in \left(0,1\right)$ 使得 $s_{v^{+}}{v}^{+}\in {{\rm N}}_{\mu },t_{v^{-}}{v}^{-}\in {{\rm N}}_{\lambda }^{\mu }$。

因此，根据引理2.3，可以得到

$\begin{array}{c}2c^{*}\le J_{\lambda }^{\mu }\left(s_{v^{+}}{v}^{+}\right)+J_{\lambda }^{\mu }\left(t_{v^{-}}{v}^{-}\right)\le J_{\lambda }^{\mu }\left(s_{v^{+}}{v}^{+}+t_{v^{-}}{v}^{-}\right)\\ <J_{\lambda }^{\mu }\left(v^{+}+v^{-}\right)=c_{\lambda }^{\mu }.\end{array}$

定理1.2的证明完成。