具有双临界指数的分数阶Kirchhoff方程的正规化解的非存在性结果

A Nonexistence Result of the Normalized Solutions to a Fractional Kirchhoff Equation with Doubly Critical Exponents

摘要: Kirchhoff模型源于研究一根有弹性的绳子在自由振动过程中绳长的改变量，而分数阶Kirchhoff方程则将局部问题延伸到了非局部问题。通过使用变分法，约束极小元思想和一些能量估计，本文证明了一类具有双临界指数和混合非线性项的分数阶Kirchhoff方程的正规化解的非存在性结果，即泛函在一个L²-约束流形上的能量极小元的不存在性。这些能量估计是本文的重点和难点内容，但本文仅针对非存在性结果进行了分析。对分数阶和非局部算子的研究不仅可以应用于数学领域，还能用于连续介质力学，相变现象，博弈论等其他方面。

Abstract: The Kirchhoff model is derived from the study of the length change of an elastic rope during vibration, fractional Kirchhoff equations, however, extend local problems to nonlocal ones. By using the variational method, constrained minimization technique and some energy estimates, a nonexistence result of the normalized solutions to the fractional Kirchhoff equation with doubly critical exponents and combined nonlinearities is obtained in this paper. In other words, the nonexistence of energy minimizers of the functional on the L²-constrained monifold is discussed. These energy estimates are the key and difficult points of this paper. Nevertheless, only the nonexistence result is analyzed here. Besides, the study of fractional order and nonlocal operators can be applied not only to the field of Mathematics, but also to continuum mechanics, phase transition phenomena, game theory, etc.

1. 引言

本文，我们关注的是一类分数阶Kirchhoff方程如下：

$\left(a+b{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right){\left(-\Delta \right)}^{s}u=\lambda u+c{\left|u\right|}^{p-2}u+d{\left|u\right|}^{q-2}u,x\in {ℝ}^N,$ (1)

其中 $a,b>0$ ， $1\le N\le 3$ ， $0<s<1$ ， $2<q<p<p=4=2_s^{\ast }$ ， $c>0$ ， $d<0$ ， $\lambda$ 是一个拉格朗日常数。分数阶拉普拉斯算子 ${\left(-\Delta \right)}^s\left(s\in \left(0,1\right)\right)$ 可以定义为

${\left(-\Delta \right)}^{s}v\left(x\right)=C_s\text{P}\text{.V}\text{.}{\displaystyle {\int }_{{ℝ}^N}\frac{v\left(x\right)-v\left(y\right)}{{\left|x-y\right|}^{N+2s}}\text{d}y},$

其中 $v\in S\left({ℝ}^N\right)$ ， $S\left({ℝ}^N\right)$ 是由急减 $C^{\infty }$ 函数构成的Schwartz空间，正规化常数 $C_s={\displaystyle {\int }_{{ℝ}^N}\frac{1-\cos {\left({\xi }_1\right)}^{-1}}{{\left|\xi \right|}^{N+2s}}}$ 。当 $a,b>0$ ， $s=1$ 时，问题(1)被称为Kirchhoff模型。在过去这些年，这类模型吸引了很多关注，并且它与以下演化方程密切相关：

$u_{tt}-\left(a+b{\displaystyle {\int }_{{ℝ}^N}{\left|\nabla u\right|}^2\text{d}x}\right)\Delta u=f\left(x,u\right),\left(x,u\right)\in \Omega \times \left(0,\infty \right).$ (2)

在1883年，Kirchhoff [1] 首先介绍了这类方程。值得注意的是在 [2] 中，方程(2)建模了几类物理模型。

接下来我们将注意力转向这种方程：

$\left(a+b{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right){\left(-\Delta \right)}^{s}u-\mu u=f\left(x,u\right),x\in {ℝ}^N.$ (3)

当 $s=1$ 时，方程(3)是一类经典的Kirchhoff方程。与(3)这类Kirchhoff方程有关的文献有很多，此处不能全部列举，因此在本文我们仅列出其中几个。例如， [3] 考虑了具有临界增长的Kirchhoff方程的多重解。此外，感兴趣的读者可以参考 [4] [5] 以及其中的参考文献去了解更多的关于Kirchhoff方程的解的存在性结果。

此外，当 $0<s<1$ 时，众所周知 ${ℝ}^N\left(N\ge 1\right)$ 上的 ${\left(-\Delta \right)}^s$ 是一个非局部的拉普拉斯算子。在 [6] 中，使用山路定理和下降流的不变集，作者得到了具有连续通项型非线性项的非线性分数阶Kirchhoff方程的一个正解、一个负解和多个变号解。进一步地，读者们可以参考 [7] [8] 以及其中的参考文献来了解如方程(3)这类分数阶Kirchhoff方程的解的存在性结果。

受到 [9] 的启发，本文致力于研究具有双临界指数和混合非线性项的方程(1)的具有指定L²-范数的解的非存在性结果，这里的双临界包含Sobolev嵌入临界和Gagliardo-Nirenberg-Sobolev不等式的临界这两种情况。

如果取 $N=4s$ ，读者容易发现临界Sobolev指数 $2_s^{\ast }=\frac{2N}{N-2s}$ 和分数阶Gagliardo-Nirenberg-Sobolev临界指数 $2_{sGNS}^{\ast }=2+\frac{8s}{N}$ 相等，并且有 $\frac{2N}{N-2s}=2+\frac{8s}{N}=4$ 。因此，本文考虑 $N=4s$ 的情况，换言之，

$\{\begin{array}{l}若N=1,则s=\frac{1}{4},\\ 若N=2,则s=\frac{1}{2},\\ 若N=3,则s=\frac{3}{4},\end{array}$ (4)

并且 $2<q<p=2_s^{\ast }=4$ 。显然，以下能量泛函

$I^c\left(u\right)=\frac{a}{2}{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}+\frac{b}{4}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2-\frac{c}{4}{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^p\text{d}x}-\frac{d}{q}{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^q\text{d}x}$

在约束集合 $S_1:=\left\{u\in H^s:{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^2\text{d}x}=1\right\}$ 上的临界点与方程(1)的解相对应，这里的分数阶Sobolev空间 $H^s\left({ℝ}^N\right)$ 定义为

$H^s\left({ℝ}^N\right):=\left\{u\in L^2\left({ℝ}^N\right):\frac{u\left(x\right)-u\left(y\right)}{{\left|x-y\right|}^{\frac{N+2s}{2}}}\in L^2\left({ℝ}^N\times {ℝ}^N\right)\right\}.$

此空间中的范数(的平方)为

${\Vert u\Vert }_{H^s\left({ℝ}^N\right)}^2={\displaystyle {\int }_{{ℝ}^N}\left({\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2+{\left|u\right|}^2\right)\text{d}x},$

其中，

${\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}={\displaystyle {\int }_{{ℝ}^{2N}}\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^2}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y}.$

换句话来说，考虑分数阶Kirchhoff泛函在L²-约束流形

$m\left(c\right):=\underset{u\in S_1}{\inf }{I}^c\left(u\right)$ (5)

上的极小化问题等价于研究以上临界点问题。

本文中 ${\left|.\right|}_p$ 代表空间 $L^p\left({ℝ}^N\right)$ 中的范数， $L^p\left({ℝ}^N\right)$ 定义为 ${\left|u\right|}_p^p={\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^p\text{d}x}$ 。

主要结果

本文的主要结果是如下定理：

定理1.1. 令 $2<q<p=4$ ， $a>0$ ， $b>0$ ， $c>0$ ， $d<0$ 。那么，存在 $c_{*}\in \left(0,+\infty \right)$ 使得

$\{\begin{array}{l}m\left(c\right)=0,若0<c\le c_{*},\\ m\left(c\right)=-\infty ,若c>c_{*}.\end{array}$

此外， $c_{*}=b{S}_s^2$ ，并且泛函 $I^c$ 对于任何 $c>0$ 都没有能量极小元，也就是说，下确界 $m\left(c\right)$ 不可达。

本文的后续部分组织如下：在第2部分我们列出了一些预备知识，定理1.1的主要证明则在第3部分中给出，最后，在第4部分我们对本文的技术先进性和创新点进行了总结，并展望了今后的研究方向和改进方向。

2. 预备知识

在这一部分，我们首先收集了一些在本文后续将会频繁使用到的一些结果。

引理2.1. ( [10] )令 $p\in \left[0,2_s^{*}-2\right)$ ， $u\in H^s\left({ℝ}^N\right)$ ，那么如下不等式成立：

${\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^p\text{d}x}\le \frac{p+2}{{\left|Q\right|}_2^p}{\alpha }_p{\beta }_p{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^{\frac{Np}{4s}}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^2\text{d}x}\right)}^{\frac{2ps-Np+4s}{4s}},$ (6)

其中 ${\alpha }_p=\frac{2s}{2ps-Np+4s}$ ， ${\beta }_p={\left(\frac{2ps-Np+4s}{Np}\right)}^{\frac{NP}{4s}}$ ，并且函数 $Q\left(x\right)$ 最优化不等式(6)，且 $Q\left(x\right)$ 为以下分数阶非线性方程

${\left(-\Delta \right)}^{s}Q+Q-{\left|Q\right|}^{p}Q=0$

在 ${ℝ}^N$ 中的唯一非负径向解。

引理2.2. ( [11] )令 $s\in \left(0,1\right)$ ， $p\in \left[1,+\infty \right)$ 使得 $sp<N$ ，那么存在一个正的常数 $S_s=S_s\left(N,p,s\right)$ 满足，对任意可测、紧支撑的函数 $u:{ℝ}^N\to ℝ$ ，有如下不等式：

$S_s{\left|u\right|}_{2_s^{\ast }}^2\le {\displaystyle {\int }_{{ℝ}^{2N}}\frac{{\left|u\left(x\right)-u\left(y\right)\right|}^2}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y},$ (7)

这里的 $2_s^{*}$ 称为分数阶临界Sobolev指数。此外，不等式(7)成为等式当且仅当 $\tilde{u}=K{\left({\mu }^2+{\left|x-x_0\right|}^2\right)}^{-\frac{N-2s}{2}}$ ，其中 $K\in ℝ\backslash \left\{0\right\}$ ， $\mu >0$ ， $x_0\in {ℝ}^N$ 为固定常数， $S_s$ 为最佳Sobolev嵌入常数。

根据引理2.1和引理2.2，当 $N=4s$ 且 ${\left|u\right|}_2=1$ 时，分数阶Gagliardo-Nirenberg-Sobolev不等式(6)和分数阶Sobolev不等式(7)可以重新表达，也就是说，如果在(6)式中将p取为 $p-2$ ，那么分数阶Gagliardo-Nirenberg-Sobolev不等式(6)变成

${\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^p\text{d}x}\le \frac{p}{{\left|Q\right|}_2^{p-2}}{\alpha }_p{\beta }_p{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^{p-2},u\in H^s\left({ℝ}^N\right),$ (8)

当 $u={\lambda }^{\frac{N}{2}}Q\left(\lambda x\right)/{\left|Q\right|}_2$ ，这里的 ${\alpha }_p=\frac{1}{4-p}$ ， ${\beta }_p={\left(\frac{4-p}{2\left(p-2\right)}\right)}^{p-2}$ 。

类似地，分数阶Sobolev不等式(7)变成

$S_s^2{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^4\text{d}x}\le {\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2,u\in H^s\left({ℝ}^N\right).$ (9)

特别地，当 $U=\bar{u}\left(\frac{x}{S_s^{\frac{1}{2s}}}\right)$ 时，其中 $\bar{u}=\frac{\tilde{u}}{{\left|\tilde{u}\right|}_{2_s^{*}}}$ ，可以得到 $S_s^2=\frac{{\left|{\left(-\Delta \right)}^{\frac{s}{2}}U\right|}_2^4}{{\left|U\right|}_4^4}$ ， $S_s^2={\left|{\left(-\Delta \right)}^{\frac{s}{2}}U\right|}_2^2={\left|U\right|}_4^4$ 。

以下引理是对 $m\left(c\right)$ 的估计，主要思路类似于( [9] Lemma 2.5)，在此我们给出简略证明。

引理2.3. 假设 $2<q<p=4$ ， $c>0$ ， $d<0$ ，能量泛函 $I^c\left(u\right)$ 定义为：

$I^c\left(u\right)=\frac{a}{2}{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}+\frac{b}{4}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2-\frac{c}{4}{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^4\text{d}x}-\frac{d}{q}{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^q\text{d}x}.$

设 $c_{\text{*}}=b{S}_s^2$ 。那么当 $c>c_{\text{*}}$ 时， $m\left(c\right)=\underset{u\in S_1}{\inf }{I}^c\left(u\right)=-\infty$ ，其中 $S_1:=\left\{u\in H^s:{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^2\text{d}x}=1\right\}$ 。

证明. 为了简便，这里选择 $x_0=0$ 。那么

$U=\frac{\tilde{u}}{{\left|\tilde{u}\right|}_{2_s^{*}}}=\frac{K{\left({\mu }^2+{\left|\frac{x}{S_s^{\frac{1}{2s}}}\right|}^2\right)}^{-\frac{N-2s}{2}}}{{\left|\tilde{u}\right|}_{2_s^{*}}}=\theta {\left({\mu }^2+{\left|\frac{x}{S_s^{\frac{1}{2s}}}\right|}^2\right)}^{\frac{2s-N}{2}},$

其中 $\theta =\frac{K}{{\left|\tilde{u}\right|}_{2_s^{*}}}$ 。由于本文取 $N=4s$ ，可以得到当 $R>1$ 时，

$\begin{array}{c}{\displaystyle {\int }_{R<\left|x\right|<2R}{\left|U\right|}^2\text{d}x}={\displaystyle {\int }_{R<\left|x\right|<2R}{\left[\theta {\left({\mu }^2+{\left|\frac{x}{S_s^{\frac{1}{2s}}}\right|}^2\right)}^{\frac{2s-N}{2}}\right]}^2\text{d}x}\\ ={\theta }^2{\displaystyle {\int }_{R<\left|x\right|<2R}{\left({\mu }^2+{\left|\frac{x}{S_s^{\frac{1}{2s}}}\right|}^2\right)}^{-2s}\text{d}x}\\ ={\theta }^2{\omega }_N{\displaystyle {\int }_{R<r<2R}{r}^{N-1}{\left({\mu }^2+{\left|\frac{r}{S_s^{\frac{1}{2s}}}\right|}^2\right)}^{-2s}\text{d}r}\\ \le S_s^2{\theta }^2{\omega }_N{\displaystyle {\int }_{R<r<2R}{r}^{N-1}{r}^{-4s}\text{d}r}\\ <2S_s^2{\theta }^2{\omega }_N:=A_1,\end{array}$ (10)

其中 ${\omega }_N$ 代表 ${ℝ}^N$ 中单位球的表面积，并且

${\displaystyle {\int }_{\left|x\right|>R}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}U\right|}^2\text{d}x}\le {\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}U\right|}^2\text{d}x}=S_s^2.$ (11)

${\displaystyle {\int }_{\left|x\right|>R}{\left|U\right|}^4\text{d}x}={\displaystyle {\int }_{\left|x\right|>R}{\left[\theta {\left({\mu }^2+{\left|\frac{x}{S_s^{\frac{1}{2s}}}\right|}^2\right)}^{\frac{2s-N}{2}}\right]}^4\text{d}x}$

$\begin{array}{c}={\theta }^4{\displaystyle {\int }_{\left|x\right|>R}{\left({\mu }^2+{\left|\frac{x}{S_s^{\frac{1}{2s}}}\right|}^2\right)}^{-4s}\text{d}x}\\ ={\theta }^4{\omega }_N{\displaystyle {\int }_{r>R}{r}^{N-1}{\left({\mu }^2+{\left|\frac{r}{S_s^{\frac{1}{2s}}}\right|}^2\right)}^{-4s}\text{d}r}\\ =S_s^4{\theta }^4{\omega }_N{\displaystyle {\int }_{r>R}{r}^{-N-1}\text{d}r}\\ =\frac{S_s^4{\theta }^4{\omega }_N}{N{R}^N}:=\frac{A_2}{R^N}.\end{array}$ (12)

对于 $2<q<4$ ，不难得到

$\begin{array}{c}{\displaystyle {\int }_{\left|x\right|>R}{U}^q\text{d}x}={\displaystyle {\int }_{\left|x\right|>R}{\left[\theta {\left({\mu }^2+{\left|\frac{x}{S_s^{\frac{1}{2s}}}\right|}^2\right)}^{\frac{2s-N}{2}}\right]}^q\text{d}x}\\ ={\theta }^q{\displaystyle {\int }_{\left|x\right|>R}{\left({\mu }^2+{\left|\frac{x}{S_s^{\frac{1}{2s}}}\right|}^2\right)}^{-qs}\text{d}x}\\ =S_s^q{\theta }^q{\omega }_N{\displaystyle {\int }_{r>R}{r}^{-N-1}\text{d}r}\\ =\frac{S_s^q{\theta }^q{\omega }_N}{N{R}^N}:=\frac{A_3}{R^N}.\end{array}$ (13)

由于 $0<s<1$ ， $N=4s$ ，对于积分 ${\displaystyle {\int }_{\left|x\right|<R}{U}^2\text{d}x}$ 的计算可以分为以下3种情况：

(i) 若 $N=1$ ，则 $s=\frac{1}{4}$ 并且

$\begin{array}{c}{\displaystyle {\int }_{\left|x\right|<R}{U}^2\text{d}x}={\theta }^2{\omega }_1{\displaystyle {\int }_{r<R}{\left({\mu }^2+{\left|\frac{r}{S_s^2}\right|}^2\right)}^{-\frac{1}{2}}\text{d}r}\\ ={\theta }^2{\omega }_1{S}_s^2\left(\ln \left|R+\sqrt{R^2+{\left(\mu S_s^2\right)}^2}\right|-\ln \left|\mu S_s^2\right|\right).\end{array}$

(ii) 若 $N=2$ ，则 $s=\frac{1}{2}$ 并且

$\begin{array}{c}{\displaystyle {\int }_{\left|x\right|<R}{U}^2\text{d}x}={\theta }^2{\omega }_2{\displaystyle {\int }_{r<R}r{\left({\mu }^2+{\left|\frac{r}{S_s^2}\right|}^2\right)}^{-1}\text{d}r}\\ =\frac{{\theta }^2{\omega }_2{S}_s^2}{2}\left(\ln \left|R^2+{\left(\mu S_s\right)}^2\right|-\ln \left|{\left(\mu S_s\right)}^2\right|\right).\end{array}$

(iii) 若 $N=3$ ，则 $s=\frac{3}{4}$ 并且

$\begin{array}{c}{\displaystyle {\int }_{\left|x\right|<R}{U}^2\text{d}x}={\theta }^2{\omega }_3{\displaystyle {\int }_{r<R}{r}^2{\left({\mu }^2+{\left|\frac{r}{S_s^{\frac{2}{3}}}\right|}^2\right)}^{-\frac{3}{2}}\text{d}r}\\ ={\theta }^2{\omega }_3{S}_s^2\left(\ln \left|R+\sqrt{R^2+{\left(\mu S_s^{\frac{2}{3}}\right)}^2}\right|-\ln \left|\mu S_s^{\frac{2}{3}}\right|-\frac{R}{\sqrt{R^2+{\left(\mu S_s^{\frac{2}{3}}\right)}^2}}\right).\end{array}$

因此，存在一个 $\rho >0$ 满足

${\displaystyle {\int }_{\left|x\right|<R}{U}^2\text{d}x}\ge \rho \ln \left(R^2+\mu S_s^2\right).$ (14)

下面，引入一个径向对称的截断函数 $\varphi \in C_0^{\infty }\left({ℝ}^N\right)$ ，它满足在 $B_R=\left\{x\in {ℝ}^N:\left|x\right|\le R\right\}$ 内 $\varphi =1$ ，在 $B_{2R}^c=\left\{x\in {ℝ}^N:\left|x\right|>R\right\}$ 内 $\varphi =0$ ，并且 $0\le \varphi \le 1$ ， $\left|\nabla \varphi \right|\le 2R$ 。

设 $\bar{U}=\frac{\varphi U}{{\left|\varphi U\right|}_2}$ ， $U_{\lambda }={\lambda }^{\frac{N}{2}}\bar{U}\left(\lambda x\right)$ 。那么，直接计算可以得到 $\bar{U}$ ， $U_{\lambda }\in S_0$ 以及

$\begin{array}{c}{I}^c\left(U_{\lambda }\right)=\frac{a}{2}{\lambda }^{2s}{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}\bar{U}\right|}^2\text{d}x}+\frac{b}{4}{\lambda }^{4s}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}\bar{U}\right|}^2\text{d}x}\right)}^2\\ -\frac{c}{4}{\lambda }^N{\displaystyle {\int }_{{ℝ}^N}{\left|\bar{U}\right|}^4\text{d}x}-\frac{d}{q}{\lambda }^{2s\left(q-2\right)}{\displaystyle {\int }_{{ℝ}^N}{\left|\bar{U}\right|}^q\text{d}x}\\ =\frac{a}{2{\left|\varphi U\right|}_2^2}{\lambda }^{2s}{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}\left(\varphi U\right)\right|}^2\text{d}x}+\frac{b}{4{\left|\varphi U\right|}_2^4}{\lambda }^{4s}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}\left(\varphi U\right)\right|}^2\text{d}x}\right)}^2\\ -\frac{c}{4{\left|\varphi U\right|}_2^4}{\lambda }^N{\displaystyle {\int }_{{ℝ}^N}{\left|\varphi U\right|}^4\text{d}x}-\frac{d}{q{\left|\varphi U\right|}_2^q}{\lambda }^{2s\left(q-2\right)}{\displaystyle {\int }_{{ℝ}^N}{\left|\varphi U\right|}^q\text{d}x}.\end{array}$

根据函数 $\varphi$ 的定义，有 $\begin{array}{c}{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}\left(\varphi U\right)\right|}^2\text{d}x}=\left({\displaystyle {\int }_{\left|x\right|\le R}}+{\displaystyle {\int }_{R<\left|x\right|\le 2R}}\right){\left|{\left(-\Delta \right)}^{\frac{s}{2}}\left(\varphi U\right)\right|}^2\text{d}x\\ ={\displaystyle {\int }_{\left|x\right|\le R}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}U\right|}^2\text{d}x}+{\displaystyle {\int }_{R<\left|x\right|\le 2R}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}\left(\varphi U\right)\right|}^2\text{d}x},\end{array}$

其中

$\begin{array}{c}{\displaystyle {\int }_{R<\left|x\right|\le 2R}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}\left(\varphi U\right)\right|}^2\text{d}x}={\displaystyle {\int }_{{ℝ}^N}{\displaystyle {\int }_{R<\left|x\right|\le 2R}\frac{{\left|\varphi \left(x\right)\left(U\left(x\right)-U\left(y\right)\right)+U\left(y\right)\left(\varphi \left(x\right)-\varphi \left(y\right)\right)\right|}^2}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y}}\\ ={\displaystyle {\int }_{{ℝ}^N}{\displaystyle {\int }_{R<\left|x\right|\le 2R}\frac{{\left|\varphi \left(x\right)\right|}^2{\left(U\left(x\right)-U\left(y\right)\right)}^2}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y}}\\ +{\displaystyle {\int }_{{ℝ}^N}{\displaystyle {\int }_{R<\left|x\right|\le 2R}\frac{{\left|U\left(y\right)\right|}^2{\left(\varphi \left(x\right)-\varphi \left(y\right)\right)}^2}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y}}\\ +2{\displaystyle {\int }_{{ℝ}^N}{\displaystyle {\int }_{R<\left|x\right|\le 2R}\frac{\varphi \left(x\right)U\left(y\right)\left(U\left(x\right)-U\left(y\right)\right)\left(\varphi \left(x\right)-\varphi \left(y\right)\right)}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y}}.\end{array}$

根据以上讨论，我们得到了以下估计：

${\displaystyle {\int }_{{ℝ}^N}{\displaystyle {\int }_{R<\left|x\right|\le 2R}\frac{{\left|\varphi \left(x\right)\right|}^2{\left(U\left(x\right)-U\left(y\right)\right)}^2}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y}}\le {\displaystyle {\int }_{R<\left|x\right|\le 2R}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}U\right|}^2\text{d}x}$

以及

$\begin{array}{l}{\displaystyle {\int }_{{ℝ}^N}{\displaystyle {\int }_{R<\left|x\right|\le 2R}\frac{{\left|U\left(y\right)\right|}^2{\left(\varphi \left(x\right)-\varphi \left(y\right)\right)}^2}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y}}\\ ={\displaystyle {\int }_{{ℝ}^N}\text{d}y}\left({\displaystyle {\int }_{\left\{x\in {ℝ}^N:R<\left|x\right|\le 2R,\left|x-y\right|\le R\right\}}}+{\displaystyle {\int }_{\left\{x\in {ℝ}^N:R<\left|x\right|\le 2R,\left|x-y\right|\ge R\right\}}}\right)\frac{{\left|U\left(y\right)\right|}^2{\left(\varphi \left(x\right)-\varphi \left(y\right)\right)}^2}{{\left|x-y\right|}^{N+2s}}\text{d}x\\ \le \frac{C}{R^2}{\displaystyle {\int }_{{ℝ}^N}{\displaystyle {\int }_{\left\{x\in {ℝ}^N:R<\left|x\right|\le 2R,\left|x-y\right|\le R\right\}}\frac{{\left|U\left(y\right)\right|}^2}{{\left|x-y\right|}^{N+2s-2}}\text{d}x\text{d}y}}+4{\displaystyle {\int }_{{ℝ}^N}{\displaystyle {\int }_{\left\{x\in {ℝ}^N:R<\left|x\right|\le 2R,\left|x-y\right|\ge R\right\}}\frac{{\left|U\left(y\right)\right|}^2}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y}}\\ \le \frac{A_4}{R^{2s}}.\end{array}$

此外，根据Hölder不等式，有

$\begin{array}{l}2{\displaystyle {\int }_{{ℝ}^N}{\displaystyle {\int }_{R<\left|x\right|\le 2R}\frac{\varphi \left(x\right)U\left(y\right)\left(U\left(x\right)-U\left(y\right)\right)\left(\varphi \left(x\right)-\varphi \left(y\right)\right)}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y}}\\ \le C{\left({\displaystyle {\int }_{{ℝ}^N}{\displaystyle {\int }_{R<\left|x\right|\le 2R}\frac{{\left|U\left(y\right)\right|}^2{\left(\varphi \left(x\right)-\varphi \left(y\right)\right)}^2}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y}}\right)}^{\frac{1}{2}}{\left({\displaystyle {\int }_{{ℝ}^N}{\displaystyle {\int }_{R<\left|x\right|\le 2R}\frac{{\left|\varphi \left(x\right)\right|}^2{\left(U\left(x\right)-U\left(y\right)\right)}^2}{{\left|x-y\right|}^{N+2s}}\text{d}x\text{d}y}}\right)}^{\frac{1}{2}}\\ \le \frac{A_5}{R^s}.\end{array}$

令 $L=\max \left\{A_4,A_5\right\}$ ，可以推出

${\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}\left(\varphi U\right)\right|}^2\text{d}x}\le {\displaystyle {\int }_{\left|x\right|<2R}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}U\right|}^2\text{d}x}+\frac{2L}{R^s}.$

此外，

${\displaystyle {\int }_{{ℝ}^N}{\left|\varphi U\right|}^q\text{d}x}\ge {\displaystyle {\int }_{\left|x\right|\le R}{\left|U\right|}^q\text{d}x}={\displaystyle {\int }_{{ℝ}^N}{\left|U\right|}^q\text{d}x}-{\displaystyle {\int }_{\left|x\right|>R}{\left|U\right|}^q\text{d}x}\ge {\displaystyle {\int }_{{ℝ}^N}{\left|U\right|}^q\text{d}x}-\frac{A_3}{R^N},$

这里的 ${\displaystyle {\int }_{{ℝ}^N}{\left|U\right|}^q\text{d}x}$ 是上方有界的(事实上， ${\displaystyle {\int }_{{ℝ}^N}{\left|U\right|}^q\text{d}x}={\displaystyle {\int }_{\left|x\right|\le R}{\left|U\right|}^q\text{d}x}+{\displaystyle {\int }_{\left|x\right|>R}{\left|U\right|}^q\text{d}x}$ )。一方面，根据不等式(13)，我们能知道 ${\displaystyle {\int }_{\left|x\right|>R}{\left|U\right|}^q\text{d}x}\le \frac{A_3}{R^N}$ ；另一方面，对于 ${\displaystyle {\int }_{\left|x\right|\le R}{\left|U\right|}^q\text{d}x}$ ，根据Hölder不等式，还能得到

${\displaystyle {\int }_{\left|x\right|\le R}{\left|U\right|}^q\text{d}x}\le {\left({\displaystyle {\int }_{\left|x\right|\le R}{\left|U\right|}^4\text{d}x}\right)}^{\frac{q}{4}}{\left({\displaystyle {\int }_{\left|x\right|\le R}{1}^{\frac{4}{4-q}}\text{d}x}\right)}^{\frac{4-q}{4}}\le A{\left(S_s^2\right)}^{\frac{q}{4}},$

这里的A是一个恰当的正的常数。因此可以推断出 ${\displaystyle {\int }_{{ℝ}^N}{\left|U\right|}^q\text{d}x}={\displaystyle {\int }_{\left|x\right|\le R}{\left|U\right|}^q\text{d}x}+{\displaystyle {\int }_{\left|x\right|>R}{\left|U\right|}^q\text{d}x}\le A{\left(S_s^2\right)}^{\frac{q}{4}}+\frac{A_3}{R^N}$ 。进一步，会有

$I^c\left(U_{\lambda }\right)\le \frac{a{\lambda }^{2s}}{2{\left|\varphi U\right|}_2^2}\left({\displaystyle {\int }_{\left|x\right|<2R}{\left|{\left(-\text{Δ}\right)}^{\frac{s}{2}}U\right|}^2\text{d}x}+\frac{2L}{R^s}\right)+\frac{b{\lambda }^{4s}}{4{\left|\varphi U\right|}_2^4}{\left({\displaystyle {\int }_{\left|x\right|<2R}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}U\right|}^2\text{d}x}+\frac{2L}{R^s}\right)}^2$

$\begin{array}{c}-\frac{c{\lambda }^N}{4{\left|\varphi U\right|}_2^4}\left(S_s^2-\frac{A_2}{R^N}\right)-\frac{d{\lambda }^{2s\left(q-2\right)}}{q{\left|\varphi U\right|}_2^q}\left({\displaystyle {\int }_{{ℝ}^N}{\left|U\right|}^q\text{d}x}-\frac{A_3}{R^N}\right)\\ \le \frac{a{\lambda }^{2s}}{2{\left|\varphi U\right|}_2^2}\left(S_s^2+\frac{2L}{R^s}\right)+\frac{{\lambda }^{4s}}{4{\left|\varphi U\right|}_2^4}\left(\left(b{S}_s^2-c\right)S_s^2+\frac{4bL{S}_s^2}{R^s}+\frac{4b{L}^2}{R^{2s}}+\frac{c{A}_2}{R^N}\right)\\ -\frac{d{\lambda }^{2s\left(q-2\right)}}{q{\left|\varphi U\right|}_2^q}{\displaystyle {\int }_{{ℝ}^N}{\left|U\right|}^q\text{d}x}+\frac{d{\lambda }^{2s\left(q-2\right)}}{q{\left|\varphi U\right|}_2^q}\frac{A_3}{R^N}.\end{array}$ (15)

当 $c>c_{*}=b{S}_s^2$ 且R足够大时，我们能得到 $\frac{4bL{S}_s^2}{R^s}+\frac{4b{L}^2}{R^{2s}}+\frac{c{A}_2}{R^N}<\frac{1}{2}\left(c-b{S}_s^2\right)S_s^2$ 。

因此，根据(15)，下确界的定义和 $2s<4s$ ， $2s\left(q-2\right)<4s$ ，可以知道当 $\lambda \to \infty$ 时，有 $m\left(c\right)\le I^c\left(u\right)\to -\infty$ 成立，也就是当 $c>c_{*}$ 时，有 $m\left(c\right)=-\infty$ 。

3. 主要结果的证明

在这一部分，我们证明本文的主要结果。

定理1.1的证明: 当 $p=4$ 时，我们将证明 $c_{*}=b{S}_s^2$ 。事实上，对于 $c\le b{S}_s^2$ 和 $u\in S_1$ ，由于

$\begin{array}{c}{I}^c\left(u\right)=\frac{a}{2}{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}+\frac{b}{4}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2-\frac{c}{4}{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^4\text{d}x}-\frac{d}{q}{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^q\text{d}x}\\ \ge \frac{a}{2}{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}+\frac{b}{4}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2-\frac{c}{4}{S}_s^{-2}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2\\ \ge \frac{b}{4}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2-\frac{c}{4}{S}_s^{-2}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2\\ =\frac{b}{4}\left(1-\frac{c}{b{S}_s^2}\right){\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2\\ \ge 0,\end{array}$

然后可以得到当 $c\le b{S}_s^2$ 时， $m\left(c\right)\ge 0$ 。另一方面，对于 $u\in S_1$ ，令 $u_t\left(x\right)=t^{\frac{N}{2}}u\left(tx\right)$ ，直接计算可以得到 $u_t\in S_1$ 并且当 $t\to 0$ 时，

$I^c\left(u_t\right)=\frac{a}{2}{t}^{2s}{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}+\frac{b}{4}{t}^{4s}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2-\frac{c}{4}{t}^N{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^4\text{d}x}-\frac{d}{q}{t}^{N\left(\frac{q}{2}-1\right)}{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^q\text{d}x}\to 0.$

因此会有当 $c\le b{S}_s^2$ 时， $m\left(c\right)=0$ 。

当 $c>b{S}_s^2$ 时，我们使用截断函数来获得对 $m\left(c\right)$ 的估计。下面，我们总是假设 $c>b{S}_s^2$ 。由引理2.3可得 $m\left(c\right)=-\infty$ 。因此， $c_{*}$ 是定义明确的，并且 $c_{*}=b{S}_s^2$ 。

我们采用反证法，假设 $m\left(c\right)$ 由某个 $u\in S_1$ 达到，因此会有当 $c\le c_{*}$ 时， $I^c\left(u\right)=0$ 。因此根据Sobolev不等式，我们得到

$0=I^c\left(u\right)=\frac{a}{2}{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}+\frac{b}{4}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2-\frac{c}{4}{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^4\text{d}x}-\frac{d}{q}{\displaystyle {\int }_{{ℝ}^N}{\left|u\right|}^q\text{d}x}$

$\begin{array}{l}\ge \frac{a}{2}{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}+\frac{b}{4}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2-\frac{c}{4}{S}_s^{-2}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2\\ =\frac{a}{2}{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}+\left(1-\frac{c}{c_{*}}\right)\frac{b}{4}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2.\end{array}$

根据上述不等式，可以推出

$\frac{a}{2}{\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}+\left(1-\frac{c}{c_{*}}\right)\frac{b}{4}{\left({\displaystyle {\int }_{{ℝ}^N}{\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}^2\text{d}x}\right)}^2=I^c\left(u\right),$

进一步地，当 $c\le c_{*}$ 时，可以推出 ${\left|{\left(-\Delta \right)}^{\frac{s}{2}}u\right|}_2=0$ ，这表明 ${\left|u\right|}_4=0$ (由Sobolev不等式)，因此 $u=0$ 在 $x\in {ℝ}^N$ 中几乎处处成立。这与 $u\in S_1$ 矛盾。

4. 结论

通过使用变分方法、约束极小元技术和能量估计，本文证明了一类具有双临界指数和混合非线性项的分数阶Kirchhoff方程的解的不存在性，将对具有双临界指数的分数阶Kirchhoff方程解的研究延拓到混合非线性项情况是本文的创新所在，而对这类具有混合项的能量泛函进行能量估计是本文的技术先进性的体现。但本文仅获得了在一定条件下解的不存在性，通过进行假设条件和技术方法的改进从而得到这类方程解的存在性是今后的主要研究方向。