第5講回帰分析

回帰係数の標本分布

これまでより，

{\hat{β}}_{1} \sim N (β_{1}, \frac{σ^{2}}{S_{x x}})

$\begin{equation} \hat{\beta}_1 \sim N\left(\beta_1,\frac{\sigma^2}{S_{xx}}\right) \end{equation}$

{\hat{β}}_{0} \sim N (β_{0}, σ^{2} (\frac{1}{n} + \frac{{\bar{x}}^{2}}{S_{x x}}))

$\begin{equation} \hat{\beta}_0 \sim N\left(\beta_0,\sigma^2\left(\frac{1}{n} + \frac{\bar{x}^2}{S_{xx}}\right)\right) \end{equation}$

標準化すると，

\frac{{\hat{β}}_{1} - β_{1}}{\sqrt{\frac{σ^{2}}{S_{x x}}}} \sim N (0, 1)

$\begin{equation} \frac{\hat{\beta}_1 - \beta_1}{\sqrt{\ds \frac{\sigma^2}{S_{xx}}}} \sim N(0, 1) \end{equation}$

\frac{{\hat{β}}_{0} - β_{0}}{\sqrt{σ^{2} (\frac{1}{n} + \frac{{\bar{x}}^{2}}{S_{x x}})}} \sim N (0, 1)

$\begin{equation} \frac{\hat{\beta}_0 - \beta_0}{\sqrt{\ds \sigma^2\left(\frac{1}{n} + \frac{\bar{x}^2}{S_{xx}}\right)}} \sim N(0, 1) \end{equation}$

ここで，誤差 $\epsilon_{i}$ の分散 $\sigma^{2}$ は未知であるから，標本から推定する．残差 $e_{i}$ は誤差 $\epsilon_{i}$ に近いと考え，次の $s^{2}$ が $\sigma^{2}$ の不偏推定量となる． $s$ を推定値の標準誤差という．

s^{2} = \frac{1}{n - 2} \sum_{i = 1}^{n} {e_{i}}^{2}

$\begin{equation} s^{2} = \frac{1}{n-2}\sum_{i=1}^{n} {e_{i}}^2 \end{equation}$

\frac{{\hat{β}}_{1} - β_{1}}{\sqrt{\frac{s^{2}}{S_{x x}}}} \sim t (n - 2)

$\begin{equation} \frac{\hat{\beta}_1 - \beta_1} {\sqrt{\ds \frac{s^2}{S_{xx}}}} \sim t(n-2) \end{equation}$

\frac{{\hat{β}}_{0} - β_{0}}{\sqrt{s^{2} (\frac{1}{n} + \frac{{\bar{x}}^{2}}{S_{x x}})}} \sim t (n - 2)

$\begin{equation} \frac{\hat{\beta}_0 - \beta_0}{\sqrt{\ds s^2\left(\frac{1}{n} + \frac{\bar{x}^2}{S_{xx}}\right)}} \sim t(n-2) \end{equation}$

回帰係数の信頼区間

{\hat{β}}_{1} - t_{α} (n - 2) \sqrt{\frac{s^{2}}{S_{x x}}} \leq β_{1} \leq {\hat{β}}_{1} + t_{α} (n - 2) \sqrt{\frac{s^{2}}{S_{x x}}}

$\begin{equation} \hat{\beta}_1 - t_{\alpha}(n-2)\sqrt{\ds \frac{s^2}{S_{xx}}} \le \beta_1 \le \hat{\beta}_1 + t_{\alpha}(n-2)\sqrt{\ds \frac{s^2}{S_{xx}}} \end{equation}$

{\hat{β}}_{0} - t_{α} (n - 2) \sqrt{s^{2} (\frac{1}{n} + \frac{{\bar{x}}^{2}}{S_{x x}})} \leq β_{0} \leq {\hat{β}}_{0} + t_{α} (n - 2) \sqrt{s^{2} (\frac{1}{n} + \frac{{\bar{x}}^{2}}{S_{x x}})}

$\begin{equation} \hat{\beta}_0 - t_{\alpha}(n-2)\sqrt{\ds s^2\left(\frac{1}{n} + \frac{\bar{x}^2}{S_{xx}}\right)} \le \beta_0 \le \hat{\beta}_0 + t_{\alpha}(n-2)\sqrt{\ds s^2\left(\frac{1}{n} + \frac{\bar{x}^2}{S_{xx}}\right)} \end{equation}$

回帰係数の $\bm{t}$ 検定

H_{0} : β_{1} = 0

$\begin{equation} H_{0}~:~~\beta_1=0 \end{equation}$

\frac{| {\hat{β}}_{1} - 0 |}{\sqrt{\frac{s^{2}}{S_{x x}}}} \geq t_{α} (n - 2)

$\begin{equation} \frac{|\hat{\beta}_1 - 0|} {\sqrt{\ds \frac{s^2}{S_{xx}}}} \ge t_{\alpha}(n-2) \end{equation}$

第5講 回帰分析

回帰係数の標本分布

回帰係数の信頼区間

回帰係数の t\bm{t} 検定

第5講回帰分析

回帰係数の $\bm{t}$ 検定