「神はサイコロを振らない」 これは量子力学に懐疑的な立場にあったアインシュタインの言葉だ。アインシュタインは、宇宙のすべてを説明できる統一的な法則の存在を信じ、因果律にそって時間発展する世界は決定論に従うと考えた。一方で、量子力学は、確率分布しか決まっておらず、何が起こるのかは起きてみないとわからない現象が存在すると主張した。量子力学は、決定論的世界観と反する。
回帰モデルには誤差項Uが含まれている。誤差項は0の定数ではない。誤差項は期待値0の確率変数である。現象の一部に未確定な要素が含まれることを意味している。モデルをf、原因をX、結果をY、誤差項をUとしよう。すると、決定論的なモデルと確率論的なモデルは次の数式で書ける。
$$決定論モデル Y=f(X)$$
$$確率モデル Y=f(X)+U$$
回帰モデルは決定論モデルではなく確率モデルである。回帰モデルの誤差項は、無数の欠落変数がもたらすランダムな誤差である。かつてアインシュタインは「隠れた変数理論(Hidden-variable theory)」でもって量子力学に反論した。量子力学が扱う確率的に見える現象の裏には隠れた変数があり、それらを観測すれば確率的な現象ではなくなるという考えである。アインシュタインの反論は、回帰モデルについては当てはまるかもしれない。回帰モデルの誤差項は、欠落変数（≒隠れた変数）が見つかれば0になる可能性がある。