UA MATH571B 试验设计IV RCBD与Latin Square上

• RCBD
• Latin Square Design
• Graeco-Latin Square Design
• BIBD

RCBD

先介绍一个基本概念，nuisance factor，指的是不是我们想要研究的对象会对试验结果造成影响的factor。如果nuisance factor完全是未知的（不可以测量），可以用随机试验来消除nuisance factor对试验结果的影响；如果是已知的，但不可以控制的，可以用ANCOVA来分析试验结果；如果是已知的并且是可控的，那就可以用blocking的思想来设计试验。Blocking的思想其实很简单，比如要考虑一个treatment factor和一个nuisance factor，可以选择对于treatment factor的$a$个不同的level，组合上nuisance factor的$b$个level（又叫blocking level，nuisance factor此时也叫blocking factor），将这$ab$个二元组合随机分配到试验对象上。RCBD全称是randomized complete blocking design，随机体现在将这$ab$个二元组合随机分配到试验对象上这个随机分配中，complete体现在对每一个treatment level，都与$b$个blocking level作为二元组合处理了一个试验单位。
RCBD的试验结果可以用一个矩阵表示$[y_{ij}{]}_{a\times b}$，$i$代表第$i$个treatment level，$j$代表第$j$个blocking level。RCBD的统计模型是
$$\begin{gathered} y_{ij}=\mu +{\tau }_i+{\beta }_j+{ϵ}_{ij} \\ {ϵ}_{ij}{\sim }_{iid}N(0,{\sigma }^2);i=1,\cdots ,a;j=1,\cdots ,b \end{gathered}$$
其中${\tau }_i$表示treatment effect，${\beta }_j$表示blocking effect。同样考虑fixed effect model，与单因素ANOVA类似，假设
$$\sum _{i=1}^a{\tau }_i=0,\sum _{j=1}^b{\beta }_j=0$$
我们想要检验的是
$$H_0:{\tau }_1=\cdots ={\tau }_a$$
定义几个符号
$$\begin{gathered} y_{i.}=\sum _{j=1}^b{y}_{ij},{\bar{y}}_{i.}=\frac{y_{i.}}{b} \\ {y}_{.j}=\sum _{i=1}^a{y}_{ij},{\bar{y}}_{.j}=\frac{y_{.j}}{a} \\ {y}_{..}=\sum _{i=1}^a{y}_{i.}=\sum _{j=1}^b{y}_{.j},{\bar{y}}_{..}=\frac{y_{..}}{N},N=ab \end{gathered}$$
类似单因素ANOVA，可以用最小二乘法推参数估计
$${\hat{\tau }}_i={\bar{y}}_{i.}-{\bar{y}}_{..},{\hat{\beta }}_j={\bar{y}}_{.j}-{\bar{y}}_{.j},e_{ij}=y_{ij}-{\bar{y}}_{i.}-{\bar{y}}_{.j}+{\bar{y}}_{..}$$
然后做方差分解，总平方和为
$$SST=\sum _{i=1}^a\sum _{j=1}^b(y_{ij}-{\bar{y}}_{..}{)}^2$$
做一个替换
$$y_{ij}-{\bar{y}}_{..}=({\bar{y}}_{i.}-{\bar{y}}_{..})+({\bar{y}}_{.j}-{\bar{y}}_{..})+(y_{ij}+{\bar{y}}_{..}-{\bar{y}}_{i.}-{\bar{y}}_{.j})$$
这三项的交叉项的和都会为零，因此只会剩下平方项
$$\sum _{i=1}^a\sum _{j=1}^b(y_{ij}-{\bar{y}}_{..}{)}^2=\sum _{i=1}^a\sum _{j=1}^b({\bar{y}}_{i.}-{\bar{y}}_{..}{)}^2+\sum _{i=1}^a\sum _{j=1}^b({\bar{y}}_{.j}-{\bar{y}}_{..}{)}^2+\sum _{i=1}^a\sum _{j=1}^n(y_{ij}+{\bar{y}}_{..}-{\bar{y}}_{i.}-{\bar{y}}_{.j}{)}^2$$
其中
$$\begin{gathered} \sum _{i=1}^a\sum _{j=1}^b(y_{ij}+{\bar{y}}_{..}-{\bar{y}}_{i.}-{\bar{y}}_{.j}{)}^2=\sum _{i=1}^a\sum _{j=1}^b{e}_{ij}^2=SSE \\ \sum _{i=1}^a\sum _{j=1}^b({\bar{y}}_{.j}-{\bar{y}}_{..}{)}^2=\sum _{i=1}^a\sum _{j=1}^b{\hat{\beta }}_j^2=SSB \\ \sum _{i=1}^a\sum _{j=1}^b({\bar{y}}_{i.}-{\bar{y}}_{..}{)}^2=\sum _{i=1}^a\sum _{j=1}^b{\hat{\tau }}_i^2=SSM \end{gathered}$$
方差分解式为
$$SST=SSM+SSB+SSE$$
所以ANOVA Table为

来源SSdfMSF

试验	$SSM$	a-1	$MSM=\frac{SSM}{d{f}_M}$	$F_M=MSM/MSE$
区组	$SSB$	b-1	$MSB=\frac{SSB}{d{f}_B}$	$F_B=MSB/MSE$
残差	$SSE$	(a-1)(b-1)	$MSE=\frac{SSE}{d{f}_E}$
总平方和	$SST$	N-1	$MST=\frac{SST}{d{f}_T}$

SAS code输出的结果是将SSM与SSB合并在一起作为ANOVA模型的SS汇报的，但汇报的时候会给出Type I SS与Type III SS， 其中Type I SS指的是Sequential SS， 可以参考回归那个系列将Sequential ANOVA的文章。Type III SS是marginal SS，对应的就是这个ANOVA Table中SSM与SSB那两行的结果。RCBD的模型假设验证方法与单因素ANOVA一致。但RCBD有一些特性需要单独提出来。最主要的就是可加性，可加性在RCBD中的含义是总效应$y_{ij}$是由grand mean，treatment effect，blocking effect和误差直接加总构成的，然后treatment factor和blocking factor之间可能有交互效应，在有交互效应时，可加性就不会成立了。要检验模型是否具有可加性可以使用1-degree freedom Tukey检验。
模型设定为
$$\begin{gathered} y_{ij}=\mu +{\tau }_i+{\beta }_j+\gamma {\tau }_i{\beta }_j+{ϵ}_{ij} \\ {ϵ}_{ij}{\sim }_{iid}N(0,{\sigma }^2);i=1,\cdots ,a;j=1,\cdots ,b \end{gathered}$$
原假设为
$$H_0:\gamma =0$$
表示可加性成立。交互项贡献的平方和为
$$S{S}_N=\frac{{\left[{\sum }_{i=1}^a{\sum }_{j=1}^b{y}_{ij}{y}_{i.}{y}_{.j}-y_{..}(SSM+SSB+y_{..}^2/ab)\right]}^2}{abSSM\times SSB}$$
自由度为1，这部分平方和相当于是从原来的$SSE$中分离出来的，因此定义剩余的残差平方和为
$$SS{E}^{\prime }=SSE-S{S}_N$$
由此可以构造F统计量
$$F_0=\frac{S{S}_N}{SS{E}^{\prime }/[(a-1)(b-1)-1]}\sim F(1,(a-1)(b-1)-1)$$
一个更简单的替代方案是先做原来的ANOVA
$$\begin{gathered} y_{ij}=\mu +{\tau }_i+{\beta }_j+{ϵ}_{ij} \\ {ϵ}_{ij}{\sim }_{iid}N(0,{\sigma }^2);i=1,\cdots ,a;j=1,\cdots ,b \end{gathered}$$
拿到拟合值${\hat{y}}_{ij}$，然后做
$$y_{ij}=\mu +{\tau }_i+{\beta }_j+{\hat{y}}_{ij}^2+{ϵ}_{ij}$$
用${\hat{y}}_{ij}^2$的Type III SS的F检验替代1-degree freedom Tukey检验。下面的模型与单因素ANOVA和RCBD相似的就不提，主要只讲后面的模型与这两个基本模型的差异了。

Latin Square Design

如果有两个nuisance factor就可以用Latin Square Design。试验设计框架沿用RCBD的框架，但对应的两个factor都作为blocking factor，分别称为row factor和column factor，treatment factor level设计成Latin Square作用在每个试验单位上。Complete Latin Square指的是每一行、每一列都包括所有treatment factor level，但每一行是不一样的排列、每一列也是不一样的排列。Incomplete Latin Square指的是每一行、每一列不一定包含所有treatment factor level，但每一行是不一样的排列、每一列也是不一样的排列。Complete Latin Square Design的统计模型是
$$\begin{gathered} y_{ij}=\mu +{\alpha }_i+{\tau }_j+{\beta }_k+{ϵ}_{ijk} \\ {ϵ}_{ijk}{\sim }_{iid}N(0,{\sigma }^2);i,j,k=1,\cdots ,p \end{gathered}$$
${\alpha }_i$是column blocking factor，${\beta }_k$是row blocking factor。这个模型的方差分解式为
$$SST=SSA+SSM+SSB+SSE$$
其中$SSA$是第一个nuisance factor的平方和，$SSB$是第二个。所以ANOVA Table为

来源SSdfMSF

试验	$SSM$	p-1	$MSM=\frac{SSM}{d{f}_M}$	$F_M=MSM/MSE$
区组A	$SSA$	p-1	$MSA=\frac{SSA}{d{f}_A}$	$F_A=MSA/MSE$
区组B	$SSB$	p-1	$MSB=\frac{SSB}{d{f}_B}$	$F_B=MSB/MSE$
残差	$SSE$	(p-2)(p-1)	$MSE=\frac{SSE}{d{f}_E}$
总平方和	$SST$	N-1	$MST=\frac{SST}{d{f}_T}$

一个值得注意一下的地方是
$$d{f}_E=(p-1)(p-2)$$，当$p$不够大的时候残差的自由度是很小的，这会导致平均每个自由度贡献的平方和会比较大，试验数据不足以支撑假设检验，因此一般需要对Latin Square Design做replication。常用的replication的方法有四种：控制blocking factor不变，重新设计Latin Square；控制row factor不变，使用新的column factor level，重新设计Latin Square；控制column factor不变，使用新的row factor level，重新设计Latin Square；使用新的row factor level，新的column factor level，重新设计Latin Square。第一种对应的模型改为
$$\begin{gathered} y_{ij}=\mu +{\alpha }_i+{\tau }_j+{\beta }_k+{\delta }_l+{ϵ}_{ijkl} \\ {ϵ}_{ijkl}{\sim }_{iid}N(0,{\sigma }^2);i,j,k=1,\cdots ,p,l=1,\cdots ,n \end{gathered}$$
ANOVA Table为

来源SSdfMSF

试验	$SSM$	p-1	$MSM=\frac{SSM}{d{f}_M}$	$F_M=MSM/MSE$
区组A	$SSA$	p-1	$MSA=\frac{SSA}{d{f}_A}$	$F_A=MSA/MSE$
区组B	$SSB$	p-1	$MSB=\frac{SSB}{d{f}_B}$	$F_B=MSB/MSE$
重复试验	$SSR$	$n-1$	$MSR=\frac{SSR}{d{f}_R}$	$F_R=MSR/MSE$
残差	$SSE$	(n(p+1)-3)(p-1)	$MSE=\frac{SSE}{d{f}_E}$
总平方和	$SST$	N-1	$MST=\frac{SST}{d{f}_T}$

第二种对应的模型改为
$$\begin{gathered} y_{ij}=\mu +{\alpha }_{il}+{\tau }_j+{\beta }_k+{\delta }_l+{ϵ}_{ijkl} \\ {ϵ}_{ijkl}{\sim }_{iid}N(0,{\sigma }^2);i,j,k=1,\cdots ,p,l=1,\cdots ,n \end{gathered}$$
ANOVA Table为

来源SSdfMSF

试验	$SSM$	p-1	$MSM=\frac{SSM}{d{f}_M}$	$F_M=MSM/MSE$
区组A	$SSA$	n(p-1)	$MSA=\frac{SSA}{d{f}_A}$	$F_A=MSA/MSE$
区组B	$SSB$	p-1	$MSB=\frac{SSB}{d{f}_B}$	$F_B=MSB/MSE$
重复试验	$SSR$	$n-1$	$MSR=\frac{SSR}{d{f}_R}$	$F_R=MSR/MSE$
残差	$SSE$	(np-2)(p-1)	$MSE=\frac{SSE}{d{f}_E}$
总平方和	$SST$	N-1	$MST=\frac{SST}{d{f}_T}$

第三种对应的模型改为
$$\begin{gathered} y_{ij}=\mu +{\alpha }_i+{\tau }_j+{\beta }_{kl}+{\delta }_l+{ϵ}_{ijkl} \\ {ϵ}_{ijkl}{\sim }_{iid}N(0,{\sigma }^2);i,j,k=1,\cdots ,p,l=1,\cdots ,n \end{gathered}$$
ANOVA Table为

来源SSdfMSF

试验	$SSM$	p-1	$MSM=\frac{SSM}{d{f}_M}$	$F_M=MSM/MSE$
区组A	$SSA$	p-1	$MSA=\frac{SSA}{d{f}_A}$	$F_A=MSA/MSE$
区组B	$SSB$	n(p-1)	$MSB=\frac{SSB}{d{f}_B}$	$F_B=MSB/MSE$
重复试验	$SSR$	$n-1$	$MSR=\frac{SSR}{d{f}_R}$	$F_R=MSR/MSE$
残差	$SSE$	(np-2)(p-1)	$MSE=\frac{SSE}{d{f}_E}$
总平方和	$SST$	N-1	$MST=\frac{SST}{d{f}_T}$

第四种对应的模型改为
$$\begin{gathered} y_{ij}=\mu +{\alpha }_{il}+{\tau }_j+{\beta }_{kl}+{\delta }_l+{ϵ}_{ijkl} \\ {ϵ}_{ijkl}{\sim }_{iid}N(0,{\sigma }^2);i,j,k=1,\cdots ,p,l=1,\cdots ,n \end{gathered}$$
ANOVA Table为

来源SSdfMSF

试验	$SSM$	p-1	$MSM=\frac{SSM}{d{f}_M}$	$F_M=MSM/MSE$
区组A	$SSA$	n(p-1)	$MSA=\frac{SSA}{d{f}_A}$	$F_A=MSA/MSE$
区组B	$SSB$	n(p-1)	$MSB=\frac{SSB}{d{f}_B}$	$F_B=MSB/MSE$
重复试验	$SSR$	$n-1$	$MSR=\frac{SSR}{d{f}_R}$	$F_R=MSR/MSE$
残差	$SSE$	(n(p-1)-1)(p-1)	$MSE=\frac{SSE}{d{f}_E}$
总平方和	$SST$	N-1	$MST=\frac{SST}{d{f}_T}$

Graeco-Latin Square Design

如果有三个nuisance factor就可以用Latin Square Design。沿用Latin Square Design的框架，但第三个nuisance factor level也做成Latin Square（这个factor一般叫做Greek Factor），与Treatment Factor level的Latin Square的Hamada乘积作用在每个实验单位上。统计模型是
$$\begin{gathered} y_{ij}=\mu +{\alpha }_i+{\tau }_j+{\beta }_k+{\xi }_l+{ϵ}_{ijkl} \\ {ϵ}_{ijkl}{\sim }_{iid}N(0,{\sigma }^2);i,j,k,l=1,\cdots ,p \end{gathered}$$
分析方法与Latin Square Design类似，自由度不足的问题也需要做replicate。

BIBD

BIBD全称是Balanced Incomplete Block Design。在RCBD中，定义0-1矩阵$N$与$[y_{ij}]$维数相同，$N(i,j)=1$表示第$i$个treatment factor level要作用在第$j$个block1上。如果$N$不是全是1的矩阵，则这个试验就是incomplete的。假设每一列均有$k$个1，且每一列各不相同，每个treatment level作用在$r$个block上，且每一行各不相同，这样的试验叫做BIBD。从而试验单位总数满足
$$N=ar=bk$$
如果$a=b$，称试验为对称的。假设每一对treatment factor level出现在$\lambda$个block中，则
$$\lambda (a-1)=r(k-1)$$
证明：对于第$i$个treatment factor level，还有$a-1$个treatment factor level可以和它组成两两组合，他们会出现在$\lambda$个block中，则所有可能的组合数目为$\lambda (a-1)$。这个treatment factor level会出现在$r$个block中，每一个block会有$k$个不同的treatment，因此可以和$i$构成$k-1$个不同的两两组合，则所有可能组合数目为$r(k-1)$。二者均表示第$i$个treatment factor level可能存在的组合数目。
BIBD的统计模型与RCBD类似：
$$\begin{gathered} y_{ij}=\mu +{\tau }_i+{\beta }_j+{ϵ}_{ij} \\ {ϵ}_{ij}{\sim }_{iid}N(0,{\sigma }^2);i=1,\cdots ,a;j=1,\cdots ,b \end{gathered}$$
需要注意的是它的估计与RCBD有所不同。同样使用最小二乘法估计
$$\hat{\mu }=\frac{y_{..}}{N},{\hat{\tau }}_i=\frac{k{Q}_i}{\lambda a},{\hat{\beta }}_j=\frac{r{Q}_j^{\prime }}{\lambda b}$$
其中
$$Q_i=y_{i.}-\frac{1}{k}\sum _{j=1}^b{n}_{ij}{y}_{ij},Q_j^{\prime }=y_{.j}-\frac{1}{r}\sum _{i=1}^a{n}_{ij}{y}_{ij}$$
在Incomplete的时候，treatment effect并不是互相独立的
$$Var({\hat{\tau }}_i-{\hat{\tau }}_j)=\frac{2k{\sigma }^2}{\lambda a}$$
Treatment effect与blocking effect以及blocking effect之间也不是独立的。因为treatment会作用在$r$个block中，所以treatment effect中是有blocking effect存在的，为了将其扣除掉得到准确的treatment effect
，$SSM$需要做一些调整。
$$SSM=\frac{k{\sum }_{i=1}^a{Q}_i}{\lambda a}=\frac{\lambda a}{k}\sum _{i=1}^a{\hat{\tau }}_i^2$$

总结

以上是生活随笔为你收集整理的UA MATH571B 试验设计IV RCBD与Latin Square上的全部内容，希望文章能够帮你解决所遇到的问题。

如果觉得生活随笔网站内容还不错，欢迎将生活随笔推荐给好友。