単回帰分析

要約　最小二乗法による単回帰分析では、サンプル・サイズが大きいと、推定誤差の分散が小さくなります。つまり、サンプルサイズが大きいと、より真の値に近い推定値を得やすいです。　これは「一致性」に関係する現象で、シミュレーションによって確かめまし...

要約　最小二乗法（OLS）による単回帰分析でバイアスがゼロになる場合、つまり、不偏性を持つ場合、外生性が必要です。$$バイアス＝測定誤差の期待値=E \big( \widehat{\beta} -\beta \big)$$$$母回帰係数...

要約　最小二乗法で求めた標本回帰係数（OLS推定量）の推定誤差は$$推定誤差=\widehat{\beta_1}-\beta_1= \frac{\sum\limits_{i=1}^n(X_i-\overline{X})U_i } {\sum...

要約　サンプル・サイズnのデータを次のモデル式$$Y=\beta_0+\beta_1X+U$$で最小二乗法（OLS）で推定した標本回帰係数は$$\widehat{\beta_0} = \overline{y} -\wideha...

要約　サンプル・サイズが大きいとき、最小二乗法(OLS)によって計算される標本回帰係数は、近似的に正規分布に従います。つまり、単回帰分析における最小二乗推定量は、漸近正規性を持ちます。ただし、外生性といった条件を満たす必要があります。　例え...

要約　回帰分析では、不均一分散に頑健な標準誤差を用いるべきです。　なぜなら、誤差項が不均一分散でも、不均一分散に頑健な標準誤差（赤）は、標本回帰係数の標準偏差(黒)を一致性を持って推定できます。しかし、通常の標準誤差（青）では一致性を持って...

要約　単回帰モデルとは、説明変数Xによって目的変数Yが大まかに決まるモデルの一つです。Y=aX+bのような一次関数で期待値が表せるので、最も単純なモデルです。例えば、下図があります。全体像（1）問題の構造　「単回帰モデルとは何か？」という問...