UA MATH566 统计理论 推导卡方拟合优度检验

UA MATH566 统计理论 推导卡方拟合优度检验

卡方拟合优度检验主要是检验categorical data的，假设一共有$d$种category，每一种理论比例为$p_i$，满足
$$\sum _{i=1}^d{p}_i=1,p_i\ge 0$$

假设我们想要检验的问题是：
$$\begin{gathered} H_0:{\pi }_i=p_i,i=1,\cdots ,d \\ {H}_a:{\pi }_i\ne p_i,\exists i \end{gathered}$$

假设每一种category的频数为$n_1,\cdots ,n_d$，则category data的似然为
$$\begin{gathered} L(p_1,\cdots ,p_d)=\prod _{i=1}^d{p}_i^{n_i} \\ \ln L(p_1,\cdots ,p_d)=\sum _{i=1}^d{n}_i\ln p_i \end{gathered}$$

考虑$p_i$的MLE，
$$\begin{gathered} \underset{p_i}{\max }\ln L(p_1,\cdots ,p_d)=\sum _{i=1}^d{n}_i\ln p_i \\ s.t.\sum _{i=1}^d{p}_i=1,p_i\ge 0 \end{gathered}$$

定义
$$\begin{gathered} g(p_1,\cdots ,p_d,\lambda )=\sum _{i=1}^d{n}_i\ln p_i-\lambda (\sum _{i=1}^d{p}_i-1) \\ \frac{\partial g}{\partial p_i}=\frac{n_i}{p_i}-\lambda =0\Rightarrow p_i=\frac{n_i}{\lambda }\Rightarrow \sum _{i=1}^d\frac{n_i}{\lambda }=\frac{n}{\lambda }=1 \end{gathered}$$

所以MLE为
$${\hat{p}}_i=\frac{n_i}{n}$$

这个检验的似然比为
$$\Lambda (n)=\frac{{\prod }_{i=1}^d{\pi }_i^{n_i}}{{\prod }_{i=1}^d{\hat{p}}_i^{n_i}}=\prod _{i=1}^d{\left(\frac{n{\pi }_i}{n_i}\right)}^{n_i}$$

根据似然比检验的原理，当$\Lambda (n)$比较小的时候应该拒绝原假设。考虑统计量
$$-2\ln \Lambda (n){\to }_d{\chi }_{d-1}^2,asn\to \infty$$

实际计算的时候会用近似：
$$-2\ln \Lambda (n)=2\sum _{i=1}^d{n}_i\ln \frac{n_i}{n{\pi }_i}$$

定义$O_i=n_i,E_i=n{\pi }_i$，$O_i$是观测值，$E_i$是理论值
$$\begin{gathered} -2\ln \Lambda (n)=2\sum _{i=1}^d{O}_i\ln \frac{O_i}{E_i}=\sum _{i=1}^d\ln {\left(\frac{O_i}{E_i}\right)}^{2O_i} \\ =\sum _{i=1}^d\ln {\left(1-\frac{E_i-O_i}{E_i}\right)}^{2O_i}\approx \sum _{i=1}^d{\left(\frac{E_i-O_i}{E_i}\right)}^2 \end{gathered}$$

因此卡方检验的统计量为
$${\chi }^2=\sum _{i=1}^d{\left(\frac{E_i-O_i}{E_i}\right)}^2\sim {\chi }_{d-1}^2$$

总结

以上是生活随笔为你收集整理的UA MATH566 统计理论 推导卡方拟合优度检验的全部内容，希望文章能够帮你解决所遇到的问题。

如果觉得生活随笔网站内容还不错，欢迎将生活随笔推荐给好友。