半参数非线性再生散度模型的渐近推断

半参数非线性再生散度模型的渐近推断（精选3篇）

篇1：半参数非线性再生散度模型的渐近推断

半参数非线性再生散度模型的渐近推断

对半参数非线性再生散度模型,先引入最佳偏差曲线.再求非参数部分的局部线性估计,然后得到参数的.广义边侧极大似然估计.同时,基于正则条件,证明了所得估计的存在性,强相合性和渐近正态性,推广了已有文献的工作.

作 者：陈雪东 李保东 唐年胜 CHEN Xuedong LI Baodong TANG Niansheng 作者单位：陈雪东,CHEN Xuedong(云南大学数学与统计学院,昆明,650091;湖州师范学院理学院,浙江,湖州,313000)

李保东,唐年胜,LI Baodong,TANG Niansheng(云南大学数学与统计学院,昆明,650091)

刊 名：数学年刊A辑 ISTIC PKU英文刊名：CHINESE ANNALS OF MATHEMATICS,SERIES A年，卷(期)：29(3)分类号：O212.7关键词：半参数模型 非线性再生散度模型 最佳偏差曲线 广义边侧似然函数

篇2：半参数非线性再生散度模型的渐近推断

EV (errors-in-variables) 模型、缺失数据下的回归模型都是当今统计界研究的热点模型。不论是EV模型还是缺失数据下的回归模型, 人们研究较多的自然是模型简单且应用广泛的模型, 线性模型就是其中备受关注的模型之一。近年来, 有许多的学者对单纯的线性EV模型和缺失数据下的线性模型进行了研究, 但由于实际问题的复杂性, 对线性模型既有数据缺失同时又存在测量误差的情形, 不少学者也在逐步地研究。例如文献[1]研究了响应变量随机缺失线性EV模型, 借助于核实数据和借补方法, 对回归系数进行了统计推断, 文献[2]考虑了没有核实数据响应变量随机缺失的线性EV模型, 利用回归借补方法, 构造了未知参数的两种经验对数似然比统计量。以上文章均是在响应变量随机缺失时线性EV模型的相关研究, 对于协变量随机缺失时的线性EV模型, 相关的研究报道很少。最近文献[3]给出了未知参数调整的最小二乘估计, 并证明了估计的相合性及渐进正态性。本文在文献[3]的基础上, 给出未知参数的经验似然比统计量, 并证明该统计量趋于一个标准的卡方分布, 从而利用该结果可构造未知参数的置信域。

1 参数的经验似然及主要结论

考虑如下的线性EV模型

$\{\begin{array}{cc}Y=X{}^{\text{Τ}}\beta +\epsilon & \\ W=X+U& \end{array}$

(1)

式 (1) 中β是p维的未知参数, T表示向量转置, ε是模型的误差, 满足$\text{E}(\epsilon |X)=0$。X是不可观测的随机变量, 只能得到它的一个替代值W。U为测量误差, 满足EU=0, 且与X, ε相互独立。 假设$\left\{(Y{}_i,W{}_i,\delta {}_i),i=1,2,\cdots ,n\right\}$为来自模型 (1) 的样本, 其中δi=1表示Wi可以观测到, δi=0, 表示Wi有缺失, 并且缺失机制满足MAR条件, 即

${\rm P}(\delta =1|Y,W)={\rm P}(\delta =1|Y)=\text{π}(Y)$。 (2)

MAR条件表明在给定Y, W的条件下, δ与W条件独立。现仅考虑测量误差U的方差Var (U) =Σu已知时, 如何构造β的经验似然置信域。

在协变量没有缺失而仅有测量误差时, 令

hi (β) =Wi (Yi-WTiβ) +Σuβ, i=1, 2, …, n,

容易验证E (hi (β) ) =0。考虑到协变量有缺失, 采用文献[4]给出的逆概率加权的方法, 据文献[3], 知道W缺失下新的估计函数为

$\begin{array}{l}\xi {}_i(\beta )=\frac{\delta {}_i}{\text{π}{}_i}[W{}_i(Y{}_i-W{}_i^{\text{Τ}}\beta )]+\left(1-\frac{\delta {}_i}{\text{π}{}_i}\right)\times [\text{E}(W{}_i|Y{}_i)\\ Y{}_i-\text{E}(W{}_{i}W{}_i^{\text{Τ}}|Y{}_i)\beta ]+\text{Σ}{}_u\beta ,i=1,2,\cdots ,n,\\ (3)\end{array}$

式 (3) 中$\text{π}{}_i=\widehat{{\rm P}}(\delta {}_i=1|Y{}_i)=\text{π}(Y{}_i)$。但式 (3) 不能直接作为估计函数, 因为式中的$\text{π}{}_i,\text{E}(W{}_i|Y{}_i),\text{E}(W{}_{i}W{}_i^{\text{Τ}}|Y{}_i)$均未知, 用他们相应的估计来替代得到

$\begin{array}{l}\widehat{\xi }{}_i(\beta )=\frac{\delta {}_i}{\widehat{\text{π}}{}_i}[W{}_i(Y{}_i-W{}_i^{\text{Τ}}\beta )]+\left(1-\frac{\delta {}_i}{\widehat{\text{π}}{}_i}\right)\times \\ [\widehat{E}(W{}_i|Y{}_i)Y{}_i-\widehat{E}(W{}_{i}W{}_i^{\text{Τ}}|Y{}_i)\beta ］+{\displaystyle {\sum }_u\beta }；\end{array}$

i=1, 2, …, n (4)

$\begin{array}{l}\text{式}(4)\text{中}\widehat{\text{π}}{}_i=\frac{{\displaystyle \sum _{j\ne i}\delta }{}_j{\rm K}{}_h(Y{}_j-Y{}_i)}{{\displaystyle \sum _{j\ne i}{\rm K}}{}_h(Y{}_j-Y{}_i)},\\ \widehat{E}(W{}_i|Y{}_i)=\frac{{\displaystyle \sum _{j\ne i}\delta }{}_{j}W{}_j{\rm K}{}_h(Y{}_j-Y{}_i)}{{\displaystyle \sum _{j\ne i}\delta }{}_j{\rm K}{}_h(Y{}_j-Y{}_i)},\\ \widehat{E}(W{}_{i}W{}_i^{\text{Τ}}|Y{}_i)=\frac{{\displaystyle \sum _{j\ne i}\delta }{}_{j}W{}_{j}W{}_j^{\text{Τ}}{\rm K}{}_h(Y{}_j-Y{}_i)}{{\displaystyle \sum _{j\ne i}\delta }{}_j{\rm K}{}_h(Y{}_j-Y{}_i)},\\ {\rm K}{}_h(\cdot )={\rm K}(\cdot /h)/h。\end{array}$

由于当β为参数真值时, 有$E(\widehat{\xi }{}_i(\beta ))=o(1),i=1,2\cdots ,n$。于是, 可以定义β的经验似然比

R (β) =max${\displaystyle \prod _{i=1}^n(}np{}_i)$

$\begin{array}{l}p{}_i\ge 0,\\ {\displaystyle \sum _{i=1}^{n}p}{}_i=1,{\displaystyle \sum _{i=1}^{n}p}{}_i\widehat{\xi }{}_i(\beta )=0\}(5)\end{array}$

由Lagrange乘子法及简单的计算, 可以得到

$\log (R(\beta ))=-{\displaystyle \sum _{i=1}^n\lg }(1+\lambda {}^{\text{Τ}}\widehat{\xi }{}_i(\beta )),(6)$

其中λ满足

$\frac{1}{n}{\displaystyle \sum _{i=1}^n\frac{\widehat{\xi }{}_i(\beta )}{1+\lambda {}^{\text{Τ}}\widehat{\xi }{}_i(\beta )}}=0$ (7)

在给出主要结果之前, 先给出为证明主要结果所需的假设条件 (见文献[3]) 。这些假设条件都是很一般的, 且很容易满足。

C1:Y的密度函数f (y) 的一阶导数满足Lipschtiz条件, 且满足$0<\underset{y\in A}{{\displaystyle \inf }}f(y)<\underset{y\in A}{{\displaystyle \sup }}f(y)<\infty$, 这里A为Y的有界支撑集。

C2: π (y) 一致连续, 其一阶导数满足Lipschtiz条件, 且$\underset{y}{{\displaystyle \inf }}\text{π}(y)>0$。

C3:$E(W|Y=y)$和E (WWTY=y) 的各分量及各分量的一阶导数满足Lipschtiz条件。

C4: 存在常数M2≥M1>0和ρ>0, 满足${\rm M}{}_1{\rm I}{}_{\left|u\right|\le \rho }\le {\rm K}(u)\le {\rm M}{}_2{\rm I}{}_{\left|u\right|\le \rho }$, 且

${\displaystyle \int \begin{array}{c}{\rm K}(u)\text{d}u=1,\end{array}}{\displaystyle \int \begin{array}{c}u{\rm K}(u)\text{d}u=0,\end{array}}{\displaystyle \int \begin{array}{c}u{}^2{\rm K}(u)\text{d}u\ne 0。\end{array}}$

C5: 当n→∞时, h→0, nh2→∞, nh4→0。

C6:E‖X‖4<∞, E (ε4+‖U‖4) <∞。

定理 在上述条件C1—条件C6下, 当β为参数真值时, 则

$-2\lg (R(\beta ))\stackrel{D}{\to }\chi {}_p^2$。

其中$\stackrel{D}{\to }$表示依分布收敛。

有上述定理, 可以给出参数β置信水平为1-α的置信区间:

Cα (β) ={β∈Rp:-2lg (R (β) ) ≤χ${}_{1—\alpha }^2$ (p) } (8)

式 (8) 中χ${}_{1-\alpha }^2$ (p) 满足P (χ${}_2^p$≤χ${}_{1-\alpha }^2$ (p) ) =1-α。

2 定理的简要证明

为证明主要定理, 需要下面的引理。

引理1 在条件C1—C6下, 有

$\begin{array}{l}\frac{1}{\sqrt{n}}{\displaystyle \sum _{i=1}^n\widehat{\xi }}{}_i(\beta )\stackrel{D}{\to }{\rm N}(0,V),\\ \frac{1}{n}{\displaystyle \sum _{i=1}^n\widehat{\xi }}{}_i(\beta )\widehat{\xi }{}_i^{\text{Τ}}(\beta )\stackrel{{\rm P}}{\to }V,\underset{1\le i\le n}{{\displaystyle \max }}\parallel \widehat{\xi }{}_i(\beta )\parallel =o{}_p(n{}^{\frac{1}{2}})。\end{array}$

其中$V=\text{C}\text{o}\text{v}[\frac{\delta }{\text{π}(Y)}(X+U)(\epsilon -U{}^{\text{Τ}}\beta )+\left(1-\frac{\delta }{\text{π}(Y)}\right)\text{E}((X+U)(\epsilon -U{}^{{\rm T}}\beta )$Y) +Σuβ]。

证明 类似于文献[3], 经过一系列的推导, 可以得到

$\frac{1}{\sqrt{n}}{\displaystyle \sum _{i=1}^n\widehat{\xi }}{}_i(\beta )={\rm I}{}_1+{\rm I}{}_2+{\rm I}{}_3+{\rm I}{}_4,$

其中

$\begin{array}{l}{\rm I}{}_1=\frac{1}{\sqrt{n}}{\displaystyle \sum _{i=1}^n\{}\frac{\delta {}_i}{\text{π}(Y{}_i)}[W{}_i(Y{}_i-W{}_i^{\text{Τ}}\beta )]+\\ (1-\frac{\delta {}_i}{\text{π}(Y{}_i)})\text{E}(W{}_i(Y{}_i-W{}_i^{\text{Τ}}\beta )|Y{}_i)+\text{Σ}{}_u\beta \},\\ {\rm I}{}_2=\frac{1}{\sqrt{n}}{\displaystyle \sum _{i=1}^n\left(1-\frac{\delta {}_i}{\text{π}(Y{}_i)}\right)}[\widehat{E}(W{}_i(Y{}_i-W{}_i^{\text{Τ}}\beta )|Y{}_i)-\\ \text{E}(W{}_i(Y{}_i-W{}_i^{\text{Τ}}\beta )|Y{}_i)],\\ {\rm I}{}_3=\frac{1}{\sqrt{n}}{\displaystyle \sum _{i=1}^n\left(\frac{\delta {}_i}{\widehat{\text{π}}(Y{}_i)}-\frac{\delta {}_i}{\text{π}(Y{}_i)}\right)}[W{}_i(Y{}_i-W{}_i^{\text{Τ}}\beta )-\\ \text{E}(W{}_i(Y{}_i-W{}_i^{\text{Τ}}\beta )|Y{}_i)],\\ {\rm I}{}_4=\frac{1}{\sqrt{n}}{\displaystyle \sum _{i=1}^n\left(\frac{\delta {}_i}{\widehat{\text{π}}(Y{}_i)}-\frac{\delta {}_i}{\text{π}(Y{}_i)}\right)}[\text{E}(W{}_i(Y{}_i-W{}_i^{\text{Τ}}\beta )|Y{}_i)-\\ \widehat{E}(W{}_i(Y{}_i-W{}_i^{\text{Τ}}\beta )|Y{}_i)]。\end{array}$

由文献[3]中相关引理的证明知:Ii=op (1) , i=2, 3, 4。对I1, 据中心极限定理有${\rm I}{}_1\stackrel{D}{\to }{\rm N}(0,V)$。

同理, 可以证明$\frac{1}{n}{\displaystyle \sum _{i=1}^n\widehat{\xi }}{}_i(\beta )\widehat{\xi }{}_i^{\text{Τ}}(\beta )\stackrel{{\rm P}}{\to }V$。

类似文献[5]证明 (A.7) 的方法, 可以证明$\underset{1\le i\le n}{{\displaystyle \max }}\parallel \widehat{\xi }{}_i(\beta )\parallel =o{}_p(n{}^{\frac{1}{2}})$。引理得证。

定理的证明: 令

$\phi (\lambda )=\frac{1}{n}{\displaystyle \sum _{i=1}^n\frac{\widehat{\xi }{}_i(\beta )}{1+\lambda {}^{\text{Τ}}\widehat{\xi }{}_i(\beta )}}=0(9)$

类似文献[6]中证明 (2.14) 的推导, 可以证明:$\parallel \lambda \parallel ={\rm O}{}_p(n{}^{\frac{-1}{2}})$。

对式 (9) 运用Taylor展开, 有

$\begin{array}{l}0=\phi (\lambda )=\frac{1}{n}{\displaystyle \sum _{i=1}^n\widehat{\xi }}{}_i(\beta )[1-\lambda {}^{\text{Τ}}\widehat{\xi }{}_i(\beta )+\\ \frac{(\lambda {}^{\text{Τ}}\widehat{\xi }{}_i(\beta )){}^2}{1-\lambda {}^{\text{Τ}}\widehat{\xi }{}_i(\beta )}]=\overline{\xi }-V{}_n\lambda +\frac{1}{n}{\displaystyle \sum _{i=1}^n\frac{\widehat{\xi }{}_i(\beta )(\lambda {}^{\text{Τ}}\widehat{\xi }{}_i(\beta )){}^2}{1-\lambda {}^{\text{Τ}}\widehat{\xi }{}_i(\beta )}}。\end{array}$

其中$\overline{\xi }=\frac{1}{n}{\displaystyle \sum _{i=1}^n\widehat{\xi }}{}_i(\beta ),V{}_n=\frac{1}{n}{\displaystyle \sum _{i=1}^n\widehat{\xi }}{}_i(\beta )\widehat{\xi }{}_i^{\text{Τ}}(\beta )$。利用引理, 可以证明

$\begin{array}{l}\frac{1}{n}{\displaystyle \sum _{i=1}^n\parallel }\widehat{\xi }{}_i(\beta )\parallel {}^3\parallel \lambda {}^2\parallel \left|1-\lambda {}^{\text{Τ}}\widehat{\xi }{}_i(\beta )\right|{}^{-1}=\\ {\rm O}{}_p(n{}^{1/2}){\rm O}{}_p(n{}^{-1}){\rm O}{}_p(1)={\rm O}{}_p(n{}^{-1/2})。\end{array}$

从而有:$\lambda =V{}_n^{-1}\overline{\xi }+{\rm O}{}_p(n{}^{\frac{-1}{2}})$。

对-2lg (R (β) ) 利用Taylor公式得:

$\begin{array}{l}-2\lg (R(\beta ))=2{\displaystyle \sum _{i=1}^n\lg }(1+\lambda {}^{\text{Τ}}\widehat{\xi }{}_i(\beta ))=\\ 2{\displaystyle \sum _{i=1}^n\lambda }{}^{\text{Τ}}\widehat{\xi }{}_i(\beta )-\\ {\displaystyle \sum _{i=1}^n(}\lambda {}^{\text{Τ}}\widehat{\xi }{}_i(\beta )){}^2+2{\displaystyle \sum _{i=1}^n\tau }{}_i=\\ 2n\lambda {}^{\text{Τ}}\overline{\xi }-n\lambda {}^{\text{Τ}}V{}_n\lambda +2{\displaystyle \sum _{i=1}^n\tau }{}_i=\\ n\overline{\xi }{}^{\text{Τ}}V{}_n^{-1}\overline{\xi }+2{\displaystyle \sum _{i=1}^n\tau }{}_i+o{}_p(1)。\end{array}$

$\begin{array}{l}\text{其}\text{中}2\left|{\displaystyle \sum _{i=1}^n\tau }{}_i\right|\le 2C\parallel \lambda \parallel {}^3{\displaystyle \sum _{i=1}^n\parallel }\widehat{\xi }{}_i(\beta )\parallel {}^3={\rm O}{}_p(n{}^{\frac{-3}{2}})\times \\ {\rm O}{}_p(n{}^{\frac{3}{2}})={\rm O}{}_p(1)。\end{array}$

据引理可知:$n\overline{\xi }{}^{\text{Τ}}V{}_n^{-1}\overline{\xi }\stackrel{D}{\to }\chi {}_p^2$。定理得证。

参考文献

[1]李高荣, 薛留根, 冯三营.核实数据下响应变量缺失的EV线性模型经验似然推断.系统科学与数学, 2009;29 (1) :94—108

[2]刘强, 薛留根.缺失数据下线性EV模型中参数的经验似然置信域.数学的实践与认识, 2008;38 (24) :147—151

[3]张娟, 崔恒建.缺失数据下EV模型的调整最小二乘估计.数学物理学报, 2009;29 (6) :1465—1476

[4] Robins J M, Rotnitzky A, Zhao L.Estimation of regression coeffi-cients when some regressors are not always observed.J Amer StatistAssoc, 1994;89:846—866

[5] Li G R, Xue L G.Empirical likelihood confidence region for the pa-rameter in a partially linear errors-in-variables model.Commun StatistTheor Meth, 2008;37 (10) :1552—1564

篇3：半参数非线性再生散度模型的渐近推断

关键词 局部平稳；扩散模型；加权最小二乘估计；相合性；渐近正态性

1 引 言

局部平稳过程理论是由Dahlhaus[1，2]在1996年和1997年提出来的，直观地说，局部平稳过程是在给定的时间点的某个领域内，可以用一个平稳过程来近似.Starica

和Granger[3]用局部平稳过程对收益率过程拟合时发现，局部平稳过程具有更好的预测效果.近年来，局部平稳模型是人们研究的热点问题之一，其中对局部平稳模型的统计推断显得日益重要，例如，Vogt[4]考虑了局部平稳时间序列的非参数回归估计，Koo和Linton[5]研究了局部平稳扩散模型的估计问题等等.

本文主要讨论局部平稳扩散模型的半参数估计问题，本文模型包含了一些非常著名的短期利率扩散模型，例如CIR[6]短期利率模型和HW[7] 短期利率模型等等.本文对漂移参数函数进行局部常数拟合，并应用局部加权最小二乘法得到了漂移参数函数的估计量，模型中的漂移参数函数具有明确的经济意义.同时，通过Kolmogorov向前方程，得到了扩散系数的估计量，扩散系数是反映市场数据波动大小的量.近一步，本文讨论了漂移参数的估计量和扩散系数的估计量的大样本性质，即相合性和渐近正态性.最后，通过模拟研究说明了估计量的有效性.文中的漂移参数函数的估计和扩散系数的估计都有显式的表达式，在实际数据应用时非常方便.