基于人工神经网络的卫星钟差长期预报

Long-Term Prediction of Satellite Clock Offset Based on Artificial Neural Network

摘要: 卫星钟差长期预报可以为卫星自主导航提供必要的先验信息。针对二次多项式模型和灰色模型对钟差长期预报误差较大的问题，建立了适用于卫星钟差预报的人工神经网络(artificial neural network, ANN)模型。首先，利用一阶差分算子对卫星钟差序列作平稳化处理，获得钟差一阶差分序列；其次，使用差分序列构造网络所需的训练样本，并采用超限学习机(extreme learning machine, ELM)学习算法对网络进行训练；最后，使用网络模型对一阶差分序列进行逐步递推，再利用一阶累加算子对差分序列预报值进行还原，获得钟差长期预报值。以国际GNSS服务组织(Intentional GNSS Service, IGS)发布的事后GPS精密星历作为分析数据进行1~60 d的预报试验，结果表明，ANN模型的短期和长期预报精度和预报稳定性均明显优于二次多项式模型和灰色模型，其中，1~60 d预报精度相比于二次多项式模型和灰色模型分别提高87.51%和81.09%，预报稳定度比二次多项式模型和灰色模型分别提高88.94%和82.9%。

Abstract: Satellite clock offset is required for satellite autonomous navigation as priori information. The traditional models for long-term prediction of clock offset, e.g., the quadratic polynomial (QP) and GM(1,1) grey models, are not fully satisfactory. In current work, an artificial neural network (ANN) model is developed to accurately predict long-term satellite clock offset. A raw time-series of satellite clock offset is firstly differenced epoch-by-epoch by first-order differenced generation operation (1-DGO) to obtain a stationary series. Secondly, the differenced series is used as date basis to construct training dataset, and then the extreme learning machine (ELM) algorithm is employed for network training. Finally, multi-step extrapolation for differenced series is performed by the ANN model in a recursive way. Final GPS satellite clock products provided by the International GNSS Service (IGS) are taken as examples to carry out a 60 d-ahead prediction experiment. The results show that the accuracy and stability of the both short-term and long-term predictions generated by the developed ANN model are noticeably than those by the QP and GM(1,1) models. Compared with the QP and GM(1,1) models, the accuracy of the predictions up to 60 days is increased by 87.51% and 81.09%, respectively, and the stability of the 60-day-ahead predictions is increased by 88.94% and 82.9%, respectively.

1. 引言

在全球卫星导航系统(Global Satellite Navigation System, GNSS)中，卫星钟差预报在优化导航电文中的钟差参数 [1]、满足实时动态精密单点定位的需求 [2] 以及提供卫星自主导航所需的先验信息方面具有至关重要的作用 [3] [4]。卫星钟差预报数据通常可以从卫星播放的广播星历或GNSS分析中心发布的精密星历中获得，但广播星历和精密星历均由地面系统来提供，一旦地面系统瘫痪，则无法提供广播星历或精密星历，卫星导航系统则会因缺少时间基准而陷入瘫痪，若要维持导航系统的正常运行就需要地面系统来提供相当长且一定精度的卫星钟差预报数据作为星上先验信息，故卫星钟差的长期预报对于卫星自主导航具有重要意义。

由于卫星钟处于空间环境中，极易受到磁场、温度等外界与自身因素的影响而难以精确掌握其内部复杂细致的运行规律 [5]，所以如何建立精确的卫星钟模型就变得极其困难，相应的如何准确地预报卫星钟差也就成为一个非常困难的问题，特别是卫星钟差的高精度长期预报成为卫星导航领域一个亟待解决的问题。国内外学者建立了多种卫星钟差预报模型，如二次多项式(Quadratic Polynomial, QP)模型 [6]、灰色模型(GM(1,1)) [7]、ARMA模型 [3] [8]、Kalman滤波模型 [9] 和神经网络模型 [10] 等，这些模型各有特点与适用性，如二次多项式模型根据卫星钟的物理特性建模，物理意义明确，但其预报误差随着预报时长的增长而增大；灰色模型所需样本数据少、建模简单、长期预报效果好，但灰色模型要求钟差序列光滑且呈指数变化规律，这限制了其应用范围；ARMA模型要求钟差数据是平稳的，而钟差长期变化却是非平稳的，故不适用于钟差长期预报；Kalman滤波需要准确地确定状态模型的过程噪声和观测噪声，否则状态估计会引入一定误差，降低预报精度；人工神经网络(artificial neural network, ANN)模型不需要数据间存在某种函数关系，适用范围广，较传统预报模型具有更高的预报精度，但其预报效果受训练样本的影响较大，且收敛速度较慢 [10]。

本文针对卫星钟差长期预报，根据卫星钟差序列的非线性、非平稳随机特性，利用差分变换可以弱化数据非平稳性的特点，以及神经网络在非线性时间序列建模方面的优良特性，将差分变换思想与ANN技术有机地结合起来，构建一种适用于卫星钟差预报的ANN模型。试验结果表明，ANN模型较传统的二次多项式模型和灰色模型具有更高的预报精度。

2. 卫星钟差预报的ANN模型

面向卫星钟差预报的ANN模型的基本思想为：首先，采用差分算子(Differenced Generation Operation, DGO)对原始卫星钟差序列进行差分变换，以削弱原始钟差序列的非平稳性；其次，利用差分变换后的序列构造训练样本对神经网络模型进行训练；最后，采用差分算子的互逆运算——累加算子(Accumulated Generation Operation, AGO)对网络输出结果进行还原，以获得最终的钟差预报值。卫星钟差预报的ANN模型的具体算法如下所述。

2.1. 差分变换与累加还原

根据卫星钟差序列的特点可知，卫星钟差数据的有效位数较多，且相邻历元的卫星钟差数值相差不大，相邻数据之间相差不大不利于ANN的学习训练，而数据有效位数较多影响ANN的收敛速度。基于此，利用一阶差分算子(1-DGO)在相邻历元的钟差数据之间作差分变换，其一可以获得一个有效数字位数减少的差分序列，其二可以消除原始钟差序列中的趋势项，增强钟差序列的变化规律，从而获得一个更有利于ANN学习训练和收敛的数据序列，其三可以消除卫星钟差数据中的部分系统误差，从而减小系统误差对ANN泛化性能的影响。

设 $X^{\left(0\right)}=\left\{x_1^{\left(0\right)},x_2^{\left(0\right)},\cdots ,x_n^{\left(0\right)}\right\}$ 为包含n个卫星钟差值的一个原始数据序列，利用一阶差分算子在相邻历元的钟差数据之间作差分运算，可以获得一个有效数字位数减少的差分序列 $X^{\left(d\right)}=\left\{x_1^{\left(d\right)},x_2^{\left(d\right)},\cdots ,x_1^{\left(d\right)}\right\}$ ：

$x_k^{\left(d\right)}=\{\begin{array}{l}{x}_k^{\left(0\right)}-x_{k-1}^{\left(0\right)}2\le k\le n\\ x_1^{\left(0\right)}k=1\end{array}$ (1)

其中，d为一阶差分算子。

设 ${\hat{X}}^{\left(d\right)}=\left\{{\hat{x}}_{n+1}^{\left(d\right)},{\hat{x}}_{n+2}^{\left(d\right)},\cdots ,{\hat{x}}_{n+l}^{\left(d\right)}\right\}$ 为包含l个钟差差分预报值的一个数据序列，利用一阶累加算子(1-AGO)对该序列进行差分逆变换即可获得最终的钟差预报序列 $\hat{X}=\left\{{\hat{x}}_{n+1},{\hat{x}}_{n+2},\cdots ,{\hat{x}}_{n+l}\right\}$ ：

${\hat{x}}_k=x_n^{\left(0\right)}+{\displaystyle \underset{i=n+1}{\overset{k}{\sum }}{\hat{x}}_i^{\left(d\right)}}$， $n+1\le k\le n+l$ (2)

2.2. 训练样本构造

训练样本对ANN学习训练有着非常重要的影响，直接关系到网络性能。考虑到当前历元的钟差值与相邻几个历元的历史钟差值之间有较强的相关性，网络的输入和输出为

$\left\{x_{k-u}^{\left(d\right)},x_{k-u+1}^{\left(d\right)},x_{k-u}^{\left(d\right)}\cdots ,x_{k-2}^{\left(d\right)},x_{k-1}^{\left(d\right)}\right\}\to x_k^{\left(d\right)}$， $u+1\le k\le n$ (3)

其中，u为输入向量维数，对应网络输入层节点的个数，本文通过大量试算发现输入向量维数取5时的预报效果较好，故取 $u=5$。

为了提高原始数据的利用率，采用滑动窗口的方式构造多个输入和输出训练样本：

$\{\begin{array}{l}{x}_1^{\left(d\right)},x_2^{\left(d\right)},\cdots ,x_{u-2}^{\left(d\right)},x_{u-1}^{\left(d\right)}\to x_u^{\left(d\right)}\\ x_2^{\left(d\right)},x_3^{\left(d\right)},\cdots ,x_{u-1}^{\left(d\right)},x_u^{\left(d\right)}\to x_{u+1}^{\left(d\right)}\\ ⋮\\ x_{n-u}^{\left(d\right)},x_{n-u+1}^{\left(d\right)},\cdots ,x_{n-2}^{\left(d\right)},x_{n-1}^{\left(d\right)}\to x_n^{\left(d\right)}\end{array}$ (4)

易知，对于一个包含n个钟差值的数据序列，通过滑动窗口方式可以构造 $n-u+1$ 个输入和输出训练样本。

在通过ANN构建出一个从一个多输入到单输出的映射后，在预报阶段，通过逐步递推的方式实现卫星钟差的长期预报，即当预报跨度为 $k=1,2,\cdots ,l$ 时网络的输入和输出分别为

$\{\begin{array}{l}{x}_{n-u+1}^{\left(d\right)},x_{n-u+2}^{\left(d\right)},\cdots ,x_{n-1}^{\left(d\right)},x_n^{\left(d\right)}\to {\hat{x}}_{n+1}^{\left(d\right)}k=1\\ x_{n-u+2}^{\left(d\right)},x_{n-u+3}^{\left(d\right)},\cdots ,x_n^{\left(d\right)},{\hat{x}}_{n+1}^{\left(d\right)}\to {\hat{x}}_{n+2}^{\left(d\right)}k=2\\ ⋮\\ {\hat{x}}_{n+l-u}^{\left(d\right)},{\hat{x}}_{n+l+1-u}^{\left(d\right)},\cdots ,{\hat{x}}_{n+l-2}^{\left(d\right)},{\hat{x}}_{n+l-1}^{\left(d\right)}\to {\hat{x}}_{n+l}^{\left(d\right)}k=l\end{array}$ (5)

2.3. 网络学习训练

反向传播(back propagation)学习算法是常用的一种ANN学习训练算法，但这种算法存在易陷入局部最优和收敛速度慢等缺点。超限学习机(extreme learning machine, ELM)算法是近年来新兴的一种单隐层前馈神经网络学习算法，其优点是在在保证学习精度的前提下比传统的学习算法速度更快 [11]。本文采用ELM学习算法对ANN模型进行训练，实现从多输入到单输出的网络映射： $f:R^u\to R$。ELM学习算法的原理如下所述 [11]。

给定一训练集 $\left\{\left(X_1,y_1\right),\cdots ,\left(X_i,y_i\right)\right\}$，其中， $X_i\in R^u$， $y\in R$， $i=1,2,\cdots ,n-u+1$，则包含N个隐含层神经元的ELM回归模型可以表示为

$f\left(X_i\right)={\displaystyle \underset{j=1}{\overset{N}{\sum }}{a}_{j}g\left(w_j\cdot X_i+b_j\right)}={\displaystyle \underset{j=1}{\overset{N}{\sum }}{a}_{j}h\left(X_i\right)}$ (6)

其中， $a_j$ 为第j个隐含层神经元与输出层神经元间的连接权重； $w_j$ 为第j个隐含层神经元与输入层神经元间的连接权重； $b_j$ 为第j个隐含层神经元的偏置； $h\left(X_i\right)=g\left(w_j\cdot X_i+b_j\right)$ 为隐含层输出矩阵。 $a_j$ 和 $w_j$ 随机选取且在学习过程中保持不变，输出权重 $a$ 可以通过求解线性方程组(7)的最小二乘解来得到。

$y_i={\displaystyle \underset{j=1}{\overset{N}{\sum }}{a}_{j}h\left(X_i\right)}$， $i=1,2,\cdots ,n-u+1$ (7)

方程组(7)的最小二乘解为

$a=H^{+}Y$ (8)

其中， $H^{+}$ 为矩阵 $H$ 的Moore-Penrose广义逆。

3. 算例与分析

为了验证卫星钟差预报的ANN模型的有效性，以全球定位系统(Global Positioning System, GPS)为例，利用国际GNSS服务组织(Intentional GNSS Service, IGS)发布的5 min间隔的事后精密GPS卫星钟差产品作为数据资料进行预报试验。考虑当前GPS星座主要由Block II-R、Block IIR-M和Block II-F卫星构成，故随机选取每类星载钟的一颗卫星进行预报试验，本文选取PRN20(II-R)、PRN24(II-F)和PRN31(IIRM)这3颗卫星2019年2月1日至4月15日的星载铷钟钟差数据作为算例，其中，2019年2月15日至4月15日作为钟差预报时段，利用ANN模型对该时段的钟差进行预报，并将预报结果与2019年2月15日至4月15日的事后精密钟差数据进行比较和分析，分析中采用均方根误差(Root Mean Square Error, RMSE)、绝对最大误差和标准差(Standard Deviation, STD)作为模型的精度评价指标，其中，RMSE用来衡量预报误差的平均变化情况，绝对最大误差用来衡量预报误差的极端情况，而STD用来衡量预报误差的波动程度。

ANN模型的泛化性能与训练数据量的多少密切相关。为了分析不同训练数据量对ANN模型预报性能的影响，选取不同长度的已知钟差数据作为训练数据对ANN模型进行训练，预报未来60 d的卫星钟差长期变化。分别选取2019年2月12日至14日(3 d)、2019年2月8日至14日(7 d)和2019年2月1日至14日(14 d)的数据作为训练数据进行预报试验，并对预报结果进行对比，图1绘出了不同训练数据量情况下PRN20、PRN24和PRN31这3颗星载钟钟差60 d的预报误差曲线，其中，绿色实线表示3 d训练长度下的预报误差，蓝色实线表示7 d训练长度下的预报误差，红色实线表示14 d训练长度下的预报误差。从图1可以看到，训练数据长度为14 d时ANN模型的预报误差相对3 d和14 d时的要小，主要原因在于，训练数据长度为3 d和14 d时ANN模型未得到充分的训练，即训练数据量不足而无法学习到钟差数据的长期变化规律以及细节信息模型处于欠学习或欠拟合状态；数据长度为14 d时可以保证ANN模型具有充足的训练数据量而学习钟差数据中隐含的细节信息和长期变化趋势。在实际应用中，由于过多的训练数据量会导致模型学习训练速度变慢，以及模型过度学习(过拟合)，因此，并非训练数据量越大越好，换言之，训练数据量过大或过小均不利于网络学习训练。本文选取预报前14 d数据用于神经网络的学习训练。

Figure 1. Error curves of the predictions obtained by the ANN in case of different training data lengths

图1. 不同训练长度下ANN模型的预报误差曲线

为了检验ANN模型的预报效果，本文将ANN模型的预报精度与二次多项式模型和灰色模型的预报精度进行了对比和分析，其中，二次多项式模型和灰色模型利用2019年2月1日至14日数据进行建模(与ANN模型建模时段相同)。PRN20、PRN24和PRN31这3颗星载钟钟差60 d的预报误差曲线如图1所示，其中，GM(1,1)表示灰色模型，用蓝色实线表示其预报误差，QP表示二次多项式模型，用绿色实线表示其预报误差，红色实线表示ANN模型的预报误差，表1统计了二次多项式模型、灰色模型和ANN模型的预报均方根误差、最大预报误差和预报误差的标准差。

Figure 2. Error curves of the predictions obtained by the QP, GM(1,1) and ANN models

图2. 二次多项式模型、灰色模型和ANN模型的预报误差曲线

Table 1. Accuracy statistics of the predictions obtained by the QP, GM(1,1) and ANN models

表1. 二次多项式模型、灰色模型和ANN模型的预报精度统计

从图2可以看到，二次多项式模型和灰色模型的预报随着预报时长的增加而增大，尤其是二次多项式模型的预报误差增大的较为明显，表明这两张模型对卫星钟差长期预报的效果不佳；对比二次多项式模型和灰色模型，ANN模型的预报误差随着预报时长的增加控制的较好，并没有出现另外两张模型误差极具增大的现象，对于未来1~10 d、1~30 d和1~60 d的预报，ANN模型的预报误差分别可以控制在18 ns、61 ns和130 ns以内，表明ANN模型具有很好的长期预报效果。从表1可以发现，ANN模型预报结果的预报均方根误差、最大预报误差和预报误差的标准差均明显低于二次多项式模型和灰色模型，表明ANN模型不仅比另外两种模型具有更好的预报精度，而且预报稳定性也优于另外两种模型。由表1还可以发现，三种模型对不同卫星钟的预报精度并不一致，这主要是由不同卫星钟性能差异引起的。PRN20、PRN24和PRN31这三颗卫星钟差的平均均方根预报误差和平均预报误差标准差如图3所示。

Figure 3. Mean RMSE and STD of the predictions obtained by the QP, GM(1,1) and ANN models

图3. 二次多项式模型、灰色模型和ANN模型的平均均方根预报误差和平均预报标准差

从图3中可以看到，对于1~10 d预报，二次多项式模型和灰色模型的平均均方根预报误差分别为33.63 ns和25.27 ns，而ANN模型的平均均方根误差为8.88 ns，相比于二次多项式模型和灰色模型分别降低了73.6%和64.86%；在1~30 d预报中，二次多项式模型和灰色模型的平均均方根误差分别为170.28 ns和120.19 ns，而ANN模型的平均均方根误差为30.83 ns，比二次多项式模型和灰色模型分别降低了81.89%和74.35%；在1~60 d预报中，二次多项式模型和灰色模型的平均均方根误差分别为538.47 ns和355.71 ns，而ANN模型的平均均方根误差为67.26. ns，比二次多项式模型降低了87.51%和81.09%。就均方根误差而言，ANN模型的预报精度比二次多项式模型和灰色模型高一个数量级。二次多项式模型和灰色模型对于1~10 d、1~30 d和1~60 d预报误差的标准差分别为18.67 ns、102.87 ns、335.88 ns和23.32 ns、71.53 ns、217.13 ns，而ANN模型的标准差分别为4.61 ns、17.18 ns和37.14 ns，1~10 d、1~30 d和1~60 d的预报稳定度比二次多项式模型分别提高75.3%、83.3%和88.94%，比灰色模型分别提高80.23%、75.98%和82.9%。总体而言，ANN模型的平均预报稳定度比二次多项式模型和灰色模型高近一个数量级。

ANN模型的钟差预报优势和原因在于，一方面，使用一阶差分处理方法对钟差序列进行适当处理，不仅可以使ANN模型网络结构简单，而且可以提高网络的泛化能力，从而提高ANN模型的预报性能；另一方面，ANN模型本身具备一定的抗差性，能够很好地对卫星钟差进行拟合和外推，从而使预报效果显著优于二次多项式模型和灰色模型。值得说明的是，如果使用ANN模型对卫星钟差进行建模时，钟差数据存在系统误差，则利用一阶差分方法对钟差数据进行适当处理，ANN模型能够获得更好的钟差预报效果。

4. 结论

本文针对卫星钟差的非线性、平稳化变化特性，将ANN技术应用于卫星钟差的长期预报，建立了适用于卫星钟差预报的多输入、单输出的网络模型，在预报过程中，采用逐步递推的策略实现钟差的长期预报。通过试验验证了ANN模型比二次多项式模型和灰色模型具有更好的预报效果，试验结果表明，二次多项式模型和灰色模型的预报误差随着预报时长的增加而增大，尤其是二次多项式模型的预报误差累积比较明显，不适合于钟差长期预报；ANN模型的短期和中长期预报精度及预报稳定度均明显优于二次多项式模型和灰色模型，1~10 d、1~30 d和1~60 d平均预报精度和平均预报稳定度比二次多项式模型和灰色模型高近一个数量级。通过对预报结果评估分析，可以得到如下结论：通过相邻历元间一阶差分的建模方法，ANN模型能够实现卫星钟差的高精度预报，同时可以避免构造复杂的网络结构。

致谢

感谢国际GNSS服务组织(IGS)提供的GPS精密星历数据，感谢审稿专家对论文提供的宝贵意见。

基金项目

本文受国家自然科学基金(11503031)资助和徐州市重点研发计划项目(KC18079)资助。

NOTES

^*通讯作者。