1. 引言
在做统计分析时,经常需要去分析两个或多个不同线性模型间的相似性或等价性。例如当回归模型出现过度参数化或过度拟合时,尽管原模型与新模型的响应变量相同,但两模型中相同未知参数的统计推断不一定相同,因此就有兴趣去研究这两个模型间的关系。关于这类问题的已做了的研究有,文献 [1] 研究了一般线性模型下的两个转换模型参数函数最佳线性无偏预测(BLUP)/最佳线性无偏估计(BLUE)间的关系。文献 [2] 考虑原线性模型添加新的回归因子表示了成过参数模型的形式,并研究了这两个模型中所有未知参数函数BLUP/BLUE间的关系。作为一般线性模型与过参数线性模型的更进一步研究,文献 [3] 考虑对一般线性模型添加新的参数或删除已有的参数,给出了具有固定系数和相同参数限制的两个具有竞争关系的线性模型,并研究了两模型未知参数函数BLUP间的关系。无论一般线性模型是否出现过参数或欠参数情况,都可以将这类模型看作是原模型的错误指定模型,文献 [4] 对原模型与错误指定模型间的关系进行研究,并利用一些代数与矩阵理论工具来刻画两模型下未知参数函数BLUP间的关系等。
在线性随机效应模型下做了的研究有,文献 [5] 利用线性代数和矩阵理论中最新的公式,给出两个相关线性随机效应模型下统计分析和推断的一种代数方法,并得出单个模型与联合模型下相同未知参数函数BLUP间等价的条件。作为单个模型与两个联合模型间关系的延伸,文献 [6] 考虑在一组带有随机系数和相关协方差矩阵的线性模型中,建立所有未知参数函数BLUP/BLUE解析表达式,并利用一些矩阵分析工具得到单个模型与和组合模型下相同未知参数函数的BLUP/BLUE等价的充要条件。此外文献 [7] 讨论了两个具有竞争关系的线性随机效应模型下未知参数函数BLUP间的关系等。虽然在线性随机效应模型中分析两个或多个模型间关系这类问题已经做了很多研究,但仍有一些问题有待研究,如对一般线性随机效应模型添加新的变量项成为过参数线性随机效应模型,这时两模型相同未知参数函数预测量间存在什么样的关系?因此本文考虑了一般线性随机效应模型与过参数线性随机效应模型下未知参数函数预测量间的关系。
2. 模型与方法
线性随机效应模型是一类重要的统计模型,常用于生物统计,公共卫生,心理计量学,教育学和社会学等领域纵向数据和相关数据的统计分析。
线性随机效应模型的一般形式如下
(1)
其中
是可观测的响应变量,
表示
实矩阵构成的集合,
是已知的任意秩矩阵,
是未知参数向量,
是不可观测的随机误差向量,
是已知的任意秩矩阵,
是固定的未知参数向量,
是不可观测的随机向量。
考虑在模型(1)中添加新的变量项
,则得到新的线性随机效应模型
(2)
其中
是已知的任意秩矩阵,
是固定的未知参数向量。我们把模型(2)称为相对模型(1)的过参数线性随机效应模型,模型(1)称为一般线性随机效应模型。
同时,我们约定模型(1)和(2)中未知随机参数向量
和
的期望及协方差矩阵满足
,
(3)
这里
是一个已知或未知的任意秩非负定矩阵,其中
,
,
,
表示
的转置。
对模型(1)和模型(2)中的y,
和
,若记
,
,则
,
,
可表示成
(4)
(5)
(6)
模型(2)相对模型(1)多了一个变量项
,那么模型(1)和模型(2)关于向量参数
、
和的统计推断有着怎样的关系呢?受文献 [7] 的启发,我们构造向量参数
、
和
的线性函数如下
(7)
以此研究两个模型下向量 φ 的预测量或估计之间的关系。这里
,
和
分别是三个已知的任意秩矩阵。
若记
,易知
的协方差矩阵为
,则
与y协方差矩阵可表示为
。
参照文献 [8],下面我们给出向量函数
可预测及
的最佳线性无偏预测或最佳线性无偏估计的定义。
定义1:若存在矩阵
,满足
,则称向量函数
在模型(1)或模型(2)下可预测。
定义2:假设向量
是可预测的,若存在
,使得对任意的
都有
成立,即
,则称
为模型(1)或模型(2)下向量函数
的最佳线性无偏预测。当
,
时,我们把
称为向量函数
的最佳线性无偏估计。
接下来我们给出下文讨论用到的几个引理。
引理1: [9]
令
这里
和
是半正定的,矩阵方程
是相容的,则总是存在
的解
使得
对于
的所有解都成立,则满足(8)的矩阵
也满足下面相容的矩阵方程
的一般表达式及相应地
和
如下
这里
,
,且
是任意的,
表示
的Moore-Penrose逆,
表示正交投影矩阵。
引理2 [10]:令
,
和
,因此
(8)
(9)
(10)
引理3 [11]:线性矩阵方程
相容的充要条件是
,即
则线性矩阵方程的一般解可表示为
,这里U是任意矩阵,I表示单位矩阵。
3. 过参数线性随机效应模型向量函数
的BLUP/BLUE及性质
为了得到两模型未知参数函数
的BLUP等价的条件,就需要知道两模型参数函数的BLUP的解析表达式,这里根据 [9] [10] 得到模型(1)下未知参数函数
的BLUP表达式及一些性质
引理4:向量
在模型(1)下可预测的充要条件
(11)
表示
的列空间,
引理5:向量
在模型(1)下可预测,并且定义
和
,则
且
(12)
相应的
表达式如下
(13)
这里
是任意的,特别地
(14)
这里
是任意的,并且有如下结论成立。
(a)
,
且
;
(b)
唯一的充要条件是
;
(c)
以概率1唯一的充要条件是
,且模型(1)是相容的。
下面为了得到过参数线性随机效应模型下未知参数函数的BLUP解析表达式,这里将向量
写成如下行式
(15)
根据(2)和(17)
可表示为
(16)
这里
、
、
,并且
的期望与协方差矩阵如下
(17)
(18)
定理1:向量
在模型(2)下可预测的充要条件
(19)
证明:若向量
在模型
下可预测,则满足
对所有的
根据引理3,当(23)成立时,上式方程是相容的。
定理2:向量
在模型(2)下可预测,则
和
(20)
相应的
表达式如下
(21)
这里
是任意,特别地
(22)
这里
是任意。下面结论成立。
(a)
和
与
的协方差矩阵如下
(23)
(24)
(25)
(26)
(b)
的
能被分解为
(27)
(c) 对所有的
满足
。
(d) 特别地
(28)
(29)
这里
是任意的。
4. 两模型下向量函数
的BLUP/BLUE的等价条件
根据第三节中得到的两模型未知参数向量函数
的BLUP的解析表达式,并通过第二节中矩阵秩方法,我们推导出两模型未知参数向量函数
的BLUP相等的各种等价条件。假设(7)中向量
在(2)下可预测,因此,由(13)和(21)中的BLUP
和
(30)
其中
,
如下所示
(31)
(32)
这里
是任意的。因为(30)中的
,
分别是方程(13)和(21)的解,这里存在
,
满足
,当且仅当两个矩阵方程有共同的解等式成立。
定理2:向量
分别在模型(1)和模型(2)下可预测,且(22)成立,
,
分别如(13)、(21)所示,下面结论等价。
(a)
;
(b)
;
(c)
;
(d)
;
(e)
。
证明:定理2:合并(13)和(21)得到一个新的方程如下
根据引理3,该方程有一个解的
当且仅当
当向量
的表达式不同时,所得到的相关未知参数BLUP的解析表达以也不同,因此我们得到以下相关推论。
推论1:向量
分别在模型(1)和模型(2)下可预测,并且
,
分别如(14),(22)所示,下面结论等价。
(a)
;
(b)
;
(c)
;
(d)
;
(e)
。
(f) 特别地,下面结论等价。
(I) 这里存在
,满足
;
(II)
;
(III)
;
(IV)
;
(V)
。
推论2:向量
分别在模型(1)和模型(2)下可预测,并且
,
分别由(13),(21)所给出,下面结论等价。
(a)
;
(b)
;
(c)
;
(d)
;
(e)
。
推论3:向量
分别在模型(1)和模型(2)下可预测,并且
,
分别由(13),(21)所给出,下面结论等价。
(a)
;
(b)
;
(c)
;
(d)
;
(e)
。