統計的推測では、見えている標本(sample)の裏には見えない母集団(population)があると考える。そして、この母集団を数値化したものがパラメーター(母数、parameter)だ。
統計学者は、標本(sample)からなんとかして母数(parameter)を逆算しようとする。その方法が推定量(estimator)だ。推定量(estimator)は計算方法だ。その計算結果が推定値(estimate)である。例えば、変数Xの期待値は、最も代表的なパラメーターだ。そして、平均は、最も代表的な推定量になる。
母集団は1つだからパラメーターは1つだが、あり得る標本は無数にあるので推定量は分散を持つ。そのために、標準誤差、仮説検定、信頼区間といった単語が統計的推論では必要になってくる。