指数分布下可靠性参数的推断
Inference of Reliability Parameters under Exponential Distribution

作者: 魏秋月 , 王春玲 :北京建筑大学理学院,北京; 赵 昕 :北京工商大学嘉华学院,北京;

关键词: 指数分布广义推断BootstrapBayes大样本近似估计Exponential Distribution Generalized Inference Bayes Bootstrap Large Sample Approximation Estimation

摘要:
本文研究了单参数指数分布下参数 的区间估计方法,给出了单参指数分布中参数 的两种广义枢轴量、参数的广义置信区间的解析解及频率性质理论证明,同时给出了假设检验问题的广义p值,另外给出三种已有方法,即Bayes方法、大样本近似估计方法和Bootstrap重抽样方法,通过Monte Carlo方法对四种方法进行模拟,模拟结果表明:广义推断和Bayes方法的覆盖概率在样本量较小的情况下保持在给定置信水平附近,且平均置信长度较小,另外本文又比较了四种方法对于假设检验问题犯第一类错误概率与检验的势,模拟结果验证了广义推断方法的良好性能。

Abstract: In this paper, we study the interval estimation method of parameter   under single pa-rameter exponential distribution. Two kinds of generalized pivots of parameter   in single parameter exponential distribution, analytical solutions of generalized confidence interval of parameter and theoretical proof of frequency property are given. At the same time, the generalized p value of hypothesis testing problem is given. In addition, three existing methods, namely Bayes method, approximate estimation method of large sample and Bootstrap resampling method are given. Four methods are simulated by Monte Carlo method. The simulation results show that the coverage probability of generalized inference and Bayes method remains near the confidence level when sample size is small, and the average confidence length is smaller. In addition, this paper compares the error 1 probability and the power for hypothesis testing. The simulation results verify the good performance of the generalized inference method.

1. 引言

关于随机变量Y小于随机变量X的概率的估计和推导问题,起源于应力强度模型,它是由Bimbaxmi于1956年提出来的,主要是讨论应力和强度相互作用的效果。应力定义为引起元件、装置和材料失效的载荷,强度定义为当承受外部载荷和环境时,元件装置或材料能满意地完成规定的任务而没有失效的能力。一般地,机械产品的强度和工作应力均为随机变量,可靠性定义为影响失效的应力没有超过控制失效的强度的概率,在使用中,当Y表示应力,X代表强度时,则装置的可靠性的数学形式可以描述为 P ( Y < X ) 。后来 P ( Y < X ) 也在其他领域有了不同的意义,例如在生物特征学中,若Y代表患者接受药物A治疗后的剩余寿命,X代表患者接受药物B治疗后的剩余寿命,如果让患者来选择药物,则患者主要通过 P ( Y < X ) 的值来选择使用何种药物。

指数分布作为一类典型的分布在工业生产、医学、机械工程、桥梁工程等领域常用来描述变量的分布,本文基于单参数和双参数指数分布来研究 P ( Y < X ) 。Owen,Craswell和Hanson (1964) [1] 利用非参数正态近似的方法给出了当X和Y分别为服从正态分布的相互独立的随机变量时 P ( Y < X ) 的置信限,Enis和Geisser (1971) [2] 利用Bayes方法给出了单参数指数分布的 P ( Y < X ) 的估计,Tong (1977) [3] 给出了当X和Y分别服从单参数指数分布时 P ( Y < X ) 的一致最小方差无偏估计,Chaos (1982) [4] 给出了 P ( Y < X ) 的极大似然估计及其均方误差,D. S. Bai和Y. W. Hong (1992) [5] 给出了大样本单参数情况下此问题的渐近分布,本文在已有文献的基础上,构造了两变量服从单参数指数分布时 P ( Y < X ) 的广义枢轴量,给出检验问题的解析解以及频率性质证明。利用Bayes方法得到当两变量服从单参数指数分布时 P ( Y < X ) 的置信区间,并与大样本近似估计方法和Bootstrap重抽样方法进行了对比。

2. 变量为单参数指数分布情形

当随机变量X与Y分别服从单参数指数分布且相互独立时,有:

T = P ( X > Y ) = 0 + λ 1 e λ 1 y d x 0 x λ 2 e λ 2 y d y = λ 2 λ 1 + λ 2 .

2.1. 广义推断的方法

Tsui K. W.,Weerahandi [6] 和Weerahandi [7] 提出了广义推断的理论,并且给出广义推断方法来求检验的广义p值及参数的广义置信区间。

X 1 , , X m Y 1 , , Y n 分别为从指数分布总体 exp ( λ 1 ) exp ( λ 2 ) 中抽取的样本,由于 i = 1 m X i j = 1 n Y j 是独立的充分统计量,且有:

U = 2 λ 1 i = 1 m X i ~ χ 2 ( 2 m ) , V = 2 λ 2 j = 1 n Y j ~ χ 2 ( 2 n ) ,

因此可构造广义枢轴量:

R λ 1 = U 2 i = 1 m x i , R λ 2 = V 2 j = 1 n y j , (1)

其中: i = 1 m x i , j = 1 n y i 分别是 i = 1 m X i j = 1 n Y j 的样本观测值,因此可以得到参数T的广义枢轴量:

R T = R λ 2 R λ 1 + R λ 2 , (2)

容易证明 R T 确实是T的广义枢轴量。

考虑假设检验问题:

H 0 : T T 0 , H 1 : T > T 0 (3)

其中 T 0 为已知常数,则对于假设检验问题(3)可给出广义p值为:

p = P r ( R T ( X , Y , x , y , λ 1 , λ 2 ) r ( x , y , x , y , λ 1 , λ 2 ) | T = T 0 ) = P r ( V / ( 2 j = 1 n y j ) U / ( 2 i = 1 m x i ) + V / ( 2 j = 1 n y i ) T 0 ) = P r ( V T 0 U j = 1 n y i ( 1 T 0 ) i = 1 m x i ) = E U ( F V ( T 0 U j = 1 n y i ( 1 T 0 ) i = 1 m x i ) ) ,

其中 r ( x , y , x , y , λ 1 , λ 2 ) 是给定样本下参数的广义枢轴量的观测值, F V ( ) 自由度为2n的卡方分布的分布函数。根据假设检验与区间估计的一一对应关系,我们可以得到T的置信系数为 γ 单侧置信下限:

P ( R T ( X , Y , x , y , λ 2 , λ 2 ) c ) = P r ( U V i = 1 m x i ( 1 / c 1 ) j = 1 n y i ) = E V ( F U ( V i = 1 m x i ( 1 / c 1 ) j = 1 n y i ) ) = γ ,

其中 F U ( ) 是自由度为2m的卡方分布的分布函数。因此,T的置信系数为 γ 的置信区间为 ( , c γ ) ,其中 c γ 满足:

E V ( F U ( V i = 1 m x i ( 1 / c γ 1 ) j = 1 n y i ) ) = γ .

另外,由于 i = 1 m X i j = 1 n Y j 是独立的充分统计量,且有:

λ 1 m i = 1 m X i λ 2 n j = 1 n Y i ~ F ( 2 m ,2 n ) ,

即:

λ 1 X ¯ λ 2 Y ¯ ~ F ( 2 m ,2 n ) ,

其中 X ¯ = i = 1 m X i m Y ¯ = j = 1 n Y j n ,则可以得到 λ 1 λ 2 的广义枢轴量为:

R λ 1 λ 2 = W y ¯ x ¯ ,

其中W是服从自由度为2m和2n的F分布, x ¯ y ¯ 分别是 X ¯ Y ¯ 的观测值,由此有:

R T = 1 1 + R λ 1 / λ 2 .

下面给出关于假设检验问题(3)的广义p值检验犯第一类错误的概率以及参数的双侧置信区间覆盖概率的算法。我们通过Monte Carlo方法来实现。

i) 分别从两个指数分布总体中抽取样本量分别为m和n的样本,得到观测值 { ( x 1 , , x m ) , ( y 1 , , y n ) }

ii) 计算 i = 1 m x i ; j = 1 n y j

iii) 产生 U ~ χ 2 ( 2 m ) V ~ χ 2 ( 2 n ) 的实现值;

iv) 按(1)和(2)给出的公式计算 R T

v) 重复步骤(iii)-(iv) M次,得到M个 R T 的值,将这一系列 R T 从小到大排列,取其 α / 2 分位点与 1 α / 2 分位点,分别记为 g ^ L , g ^ U ,得到参数T的一个双侧广义置信区间。计算M个 R T 中小于等于真值T的比率,作为假设检验问题(3)的广义p值;

vi) 重复步骤i)~v) L次,计算这L次得到的T的广义置信区间中包含真实值的个数,作为置信区间的覆盖概率,计算广义p值小于0.05的概率,作为检验犯第一类错误的概率。

频率性质

下面给出可靠性参数广义置信区间的频率性质。根据文献 [8] ,有如下引理:

引理1:设 X ~ P θ , θ Θ , θ ^ x ( E ) , E ~ Q θ 的Fiducial模型, g ( θ ) θ 的正规参数函数,在Q下 g ( θ ^ x ( E ) ) 的分布是 g ( θ ) 的Fiducial分布。记 F ( G ) x ( g ) g ( θ ) 的Fiducial分布函数,若

g ^ α ( x ) = i n f { g : F ( G ) x ( g ) α }

是Fiducial分布的 α 分位数, α ( 0,1 ) ,则有:

P θ ( g ( θ ) < g ^ α ( X ) ) = α

对所有 θ Θ 成立,即作为 g ( θ ) 的置信下限, g ^ α ( x ) 具有频率意义下的实际置信水平 1 α

定理1:单参数指数分布可靠性参数 T = λ 2 λ 1 + λ 2 的广义置信区间具有频率意义下的实际置信水平 1 α ,即 P ( g ^ L < λ 2 λ 1 + λ 2 < g ^ U ) = 1 α

证明:

P ( g ^ L < λ 2 λ 1 + λ 2 < g ^ U ) = P ( λ 2 λ 1 + λ 2 < g ^ U ) P ( λ 2 λ 1 + λ 2 < g ^ L ) = P ( F R T ( λ 2 λ 1 + λ 2 ) < 1 α 2 ) P ( F R T ( λ 2 λ 1 + λ 2 ) < α 2 ) ,

其中, F R T 表示 R T 的分布函数。由于:

P ( F R T ( λ 2 λ 1 + λ 2 ) < 1 α 2 ) = P ( P ( U / 2 i = 1 m x i U / 2 i = 1 m x i + V / 2 j = 1 n y i λ 2 λ 1 + λ 2 ) < 1 α 2 )

根据枢轴方程 U = 2 λ 1 i = 1 m X i , V = 2 λ 2 j = 1 n Y j ,设 2 i = 1 m X i = U * λ 1 , 2 j = 1 n Y j = V * λ 2 ,其中 ( U * , V * ) 分别与 ( U , V ) 独立同分布。根据引理1,上式可表示为:

P ( P ( U * V * U V ) < 1 α ) = P U * / V * ( F U / V ( U * V * ) > α / 2 ) = 1 α / 2 ,

其中, F U / V ( ) U V 的分布函数。同理

P ( F T ( λ 2 λ 1 + λ 2 ) < α / 2 ) = α / 2

因此 P ( g ^ L < λ 2 λ 1 + λ 2 < g ^ U ) = 1 α 。得证。

2.2. 基于渐近正态的大样本方法

X 1 , , X m Y 1 , , Y n 分别为从指数分布总体 exp ( λ 1 ) exp ( λ 2 ) 中抽取的样本,由于 λ 1 λ 2 的极大似然估计分别为:

λ ^ 1 = 1 X ¯ , λ ^ 2 = 1 Y ¯ ,

则根据极大似然估计的不变性得到T的极大似然估计为:

T ^ = X ¯ X ¯ + Y ¯ . (4)

下面考虑在大样本情况下T的极大似然估计的渐近分布,根据D. S. Bai和Y. W. Hong (1992),令 n = n 1 + n 2 ,其中 n 1 n 2 分别表示从两个指数分布总体抽取的样本数。令 b = n 1 n ,当 n 时,有 n ( T ^ T ) L N ( 0, T 2 ( 1 T ) 2 b ( 1 b ) ) ,因此, n b ( 1 b ) T ( 1 T ) ( T ^ T ) L N ( 0,1 ) 。这样,我们可以得到参数T的近似置信区间

[ T ^ U 1 α / 2 T ^ ( 1 T ^ ) n b ( 1 b ) , T ^ + U 1 α / 2 T ^ ( 1 T ^ ) n b ( 1 b ) ] ,

其中 U 1 α / 2 是标准正态分布的 1 α / 2 分位点。

对于假设检验问题(3),得到检验的p值为:

p = 1 Φ ( n b ( 1 b ) T 0 ( 1 T 0 ) ( T ^ T 0 ) ) ,

其中, Φ 是标准正态分布的累积分布函数。

2.3. Bootstrap-t方法

Bootstrap方法最早是由斯坦福大学教授Efron于1977年提出的,该方法认为经验分布函数能够较好地拟合总体分布,下面给出基于bootstrap方法的指数分布可靠性参数的区间估计中较常用的一种方法,Bootstrap-t区间估计 [9] 。

T ^ 是T的极大似然估计, V ^ ( T ^ ) T ^ 的方差估计, T ^ * 是通过Boostrap样本得到的T的极大似然估计, V ^ ( T ^ * ) T ^ 的方差的Bootstrap估计。

i) 分别从两个指数分布总体抽取样本量为 n 1 n 2 的样本集合,记为 W 1 W 2

ii) 通过样本 W 1 W 2 利用公式(4)求出 T ^

iii) 分别从 W 1 W 2 中再抽取样本量为 n 1 n 2 的Bootstrap样本,记为 Q 1 Q 2

iv) 通过样本 Q 1 Q 2 求出 Z * = T ^ * T ^ V ^ ( T ^ * ) 1 / 2

v) 重复步骤(iii)-(iv) M次,得到M个 T ^ ,从小到大排序,取其 α 分位点 z α / 2 1 α 分位点 z 1 α / 2 ,得到参数T的一个双侧Bootstrap置信区间 ( T ^ z 1 α / 2 * V ^ ( T ^ ) 1 / 2 , T ^ z α / 2 * V ^ ( T ^ ) 1 / 2 )

vi) 重复步骤i)~v) L次,计算这L次得到的T的置信区间中包含真实值的概率,作为置信区间的覆盖概率。

2.4. Bayes方法

通过抽取的样本 X = ( X 1 , , X m ) Y = ( Y 1 , , Y n ) 可以得到似然方程为:

L ( λ 1 , λ 2 | x , y ) = λ 1 m λ 2 n e λ 1 i = 1 m x i λ 2 j = 1 n y i , λ 1 > 0 , λ 2 > 0 ,

λ 1 λ 2 的先验分布为非信息先验分布: π ( λ i ) = 1 λ i , λ i > 0 , i = 1 , 2

因此在给定X、Y下, λ 1 λ 2 的后验分布函数为:

Π 1 ( λ 1 | x ) = λ 1 m 1 exp ( λ 1 i = 1 m x i ) 0 + λ 1 m 1 exp ( λ 1 i = 1 m x i ) d λ 1 = λ 1 m 1 ( i = 1 m x i ) m exp ( λ 1 i = 1 m x i ) Γ ( m ) , (5)

Π 2 ( λ 2 | y ) = λ 2 n 1 exp ( λ 2 j = 1 n y i ) 0 + λ 2 n 1 exp ( λ 2 j = 1 n y i ) d λ 1 = λ 2 n 1 ( j = 1 n y i ) n exp ( λ 2 j = 1 n y i ) Γ ( n ) , (6)

得到 λ 1 λ 2 的后验分布分别是参数为 ( m , i = 1 m x i ) ( n , j = 1 n y j ) 的伽玛分布。

我们通过Monte Carlo模拟来确定T的置信区间,下面给出具体算法:

i) 通过公式(5)和(6)产生 λ 1 λ 2

ii) 通过得到的 ( λ 1 , λ 2 ) ,计算得到T;

iv) 重复步骤(i)-(ii) M次,得到 T 1 , , T M ,并将它们从小到大排序;

v) 取其 α / 2 分位点与 1 α / 2 分位点,得到参数T的一个置信区间;

vi) 重复步骤i)~v) L次,计算这L次得到的置信区间中包含真实值T的概率作为置信区间的覆盖概率。

3. 模拟与结论

我们通过模拟研究来比较四种方法所得到的置信区间和假设检验的表现。在模拟设计中,分别取两样本量为(5,5),(15,10),(20,15),(0,30)。M取5000,L取2000,相关参数的选定在表格中给出。其中,CP表示覆盖概率,IL表示区间长度,GV代表文章所提出的广义枢轴量方法,LS代表基于大样本近似估计方法,TIR表示检验犯第一类错误的概率。从表1~表3的模拟结果可以看出,对于单参数指数分布,广义推断、大样本方法和Bayes方法的覆盖概率在样本量较小的情况下具有好的表现,且广义推断方法和Bayes方法得到的平均置信长度较小,二者的效果更好,Bootstrap方法随着样本量的增加,覆盖概率会逐渐接近名义水平。同时对于单参数指数分布情况下的假设检验问题,给出了不同方法的检验犯第一类错误的概率以及检验的功效,从表4表5的模拟结果可以看出,广义推断方法和Bayes方法的检验犯第一类错误的概率在名义水平附近,且当样本量较小时,效果也很令人满意。观察表6表7的结果发现,广义推断方法检验的功效与渐进正态的大样本方法和Bayes方法的功效没有显著差异,小于Bootstrap方法的功效,原因是在这些情况下Bootstrap方法犯第一类错误的概率大于名义水平。另外,当效应的真值原理原假设时,广义p值检验的功效趋于1的速度与其他三种方法的速度是相近的。

Table 1. The main coverage probability and average confidence length of the two-sided confidence interval of the single-parameter exponential distribution parameter T 95%

表1. 单参数指数分布的参数T的95%双侧置信区间的主要覆盖概率和平均置信长度

Table 2. The main coverage probability and average confidence length of the two-sided confidence interval of the single-parameter exponential distribution parameter T 95%

表2. 单参数指数分布的参数T的95%双侧置信区间的主要覆盖概率和平均置信长度

Table 3. The main coverage probability and average confidence length of the two-sided confidence interval of the single-parameter exponential distribution parameter T 95%

表3. 单参数指数分布的参数T的95%双侧置信区间的主要覆盖概率和平均置信长度

Table 4. The probability of making the first type of error in hypothesis test

表4. 检验犯第一类错误的概率

Table 5. The probability of making the first type of error in hypothesis test

表5. 检验犯第一类错误的概率

Table 6. The power of the hypothesis test

表6. 检验的功效

Table 7. The power of the hypothesis test

表7. 检验的功效

根据上述结果可以发现,广义推断方法在可靠性参数推断的区间估计与假设检验方面的表现都很好,此优点在样本量很小的情况下更为显著,另外广义枢轴量法可以用于构造讨厌参数存在时兴趣参数的置信区间以及解决带讨厌参数的假设检验问题,因此当传统频率学派方法无法给出精确方法且大样本难以获取时,广义推断方法可以有效地解决这类问题。

文章引用: 魏秋月 , 王春玲 , 赵 昕 (2019) 指数分布下可靠性参数的推断。 应用数学进展, 8, 1562-1573. doi: 10.12677/AAM.2019.89183

参考文献

[1] Owen, D.B. Craswell, K.J. and Hanson, D.L. (1964) Nonparametric Upper Confidence Bounds for and Confidence Limits for when X and Y Are Normal. Journal of the American Statistical Association, 59, 906-924.
https://doi.org/10.1080/01621459.1964.10480739

[2] Enis, P. and Geisser, S. (1971) Estimation of the Probability that . Journal American Statistical Association, 66, 162-168.
https://doi.org/10.1080/01621459.1971.10482238

[3] Tong, H. (1974) A Note on the Estimation of in the Exponential Case. Technometrics, 16, 625.
https://doi.org/10.2307/1267617

[4] Chao, A. (1982) On Comparing Estimators of in the Ex-ponential Case. IEEE Transaction on Reliability, R-31, 389-392.
https://doi.org/10.1109/TR.1982.5221387

[5] Bai, D.S. and Hong, Y.W. (1992) Estimation of in the Exponential Case with Common Location Parameter. Communications in Statistics-Theory and Methods, 21, 269-282.
https://doi.org/10.1080/03610929208830777

[6] Tsui, K.W. and Weerahandi, S. (1989) Generalized p-Values in Significance Testing of Hypotheses in the Presence of Nuisance Parameters. Journal American Statistical Association, 84, 602-607.
https://doi.org/10.1080/01621459.1989.10478810

[7] Weerahandi, S. (1993) Generalized Confidence Intervals. Journal of the American Statistical Association, 88, 899-905.
https://doi.org/10.1080/01621459.1993.10476355

[8] 徐兴忠, 李国英.枢轴分布族中的Fiducial推断[J]. 中国科学A辑, 2006, 36(3): 340-360.

[9] Baklizi, A. (2003) Confidence Intervals For in The Exponential Case with Common Location Parameter. Journal of Modern Applied Statistical Methods, 2.
https://doi.org/10.22237/jmasm/1067645220

分享
Top