Ryota Mugiyama
2019/9/6
こちらの記事は以下のこちらのウェブサイトに置かれたものです。
まず決定係数の定義を確認しよう。従属変数 を切片および 個の独立変数 で回帰するとき、その式は以下のように定義される。
最小2乗法により以下の予測式を得る。
ここで決定係数の定義は以下のとおり表される。
決定係数は回帰式により得られる予測値の分散の従属変数の分散に対する比を意味し、最小値は0、予測分散と従属変数の分散が等しくなるときに最大値1をとる。このような特徴から、決定係数は得られた予測式が観測値の分散とどれほど一致しているかを表しているかを表す指標と読むことができる。
決定係数の特徴であり問題の1つは、決定係数の値が性質の異なる複数の要素によって決まるという点にある。これに関してはすでに複数の指摘があるが（Achen 1977; Achen 1982; King 1986; King 1990）、ここでは数式を使ってそれをみてみよう。決定係数の定義の分子部分に予測式を代入することで以下の式を得る。
この式から、決定係数の値は以下の3つの要素から決まることが確認できる。第1に、回帰係数 の値である。第2に独立変数 の分散および共分散である。そして第3に、従属変数 の分散である。
ふだん回帰分析を用いて異なるサンプル間で変数の規定要因の比較分析を行う場合、主たる関心は回帰係数の推定値の値にある。しかし、決定係数の値はそれとは部分的に関連するもののそれのみを反映しているわけではない。たとえ同じ従属変数と独立変数、同じ関数型からなるモデルを用いたとしても、サンプルが異なれば独立変数の分散・共分散や従属変数の分散は異なる。決定係数だけを比較してもこれら3つのどの要素がどの程度決定係数の多寡に寄与しているのかは分からない。したがって、異なるサンプル間で安易に決定係数を比較するべきではない。
なお以上と同型の議論は相関係数および標準化偏回帰係数についても同様にあてはまる（Kim 1976; Kim 1981）。相関係数にしても標準化偏回帰係数にしても、一見すると標準化によって異なる尺度どうしの比較が可能となるようにみえて、実は独立変数の限界効果のみならず、独立変数の分散や従属変数の分散にその値が左右されるために、その値の高さを即座に効果の強さと読むことができないという点で一致している。
とはいえ、決定係数が異なるサンプル間で異なる場合に、その原因を知りたいときもあるだろう。サンプル間での決定係数がなぜ異なるのか、その原因を知ることはできるだろうか。なお、ここでの原因というのはあくまで統計的な意味においてである。このような場合に役に立つのが要因分解法である。
ここでは、異なるサンプルどうしの決定係数の比に着目し、サンプル間での決定係数の違いがどこから生じているのかを、構造変動（限界効果の違い）、独立変数変動（独立変数の分散および独立変数間の共分散の違い）、および従属変数変動（従属変数の分散）の3つへ要因分解する方法を提示する。
サンプル1、サンプル2において回帰分析を推定して得られた決定係数をそれぞれとする。両者の比をとった指標は以下のように分解できる。
対数を取ることで関数の形状が左右対称となり解釈がしやすくなるため、以下のように両辺の対数をとってもよい。
全体の決定係数の増分のうち、右辺第1項はサンプル1から2にかけての独立変数の係数の違いによって説明される部分を、右辺第2項は決定係数の変化のうち独立変数の分散および共分散の違いによって説明される部分を、右辺第3項は従属変数の分散の違いによって説明される部分を、それぞれ意味する。
もちろんこれら3つの効果のいずれが理論的に重要であるかは、当該の研究分野の文脈によって異なってくる。仮に決定係数の違いのすべてが独立変数変動効果に帰されたならば、当該の決定係数の違いが集団の構成の違いを反映していたということを意味する。
このように要因分解法を用いることの利点は、決定係数の違いを具体的に解釈可能な3つの効果に分解することによって、その違いをもたらすメカニズムの特定に近づくことができるという点にある。
表面上異なるサンプル間で決定係数が異なっていたとしても、その裏にある違いの内実は自明ではない。われわれが知りたいのは、観察されるデータの裏にはいかなる構造があり、またそれがいかなる人びとによって構成され、その構成がいかなるマクロ的な帰結をもたらしているのかという社会的メカニズムである。決定係数はモデルのフィッティングを測るうえで便利な指標ではあるが、その値はあくまで複数の社会的メカニズムが混ざった粗い近似にすぎない。決定係数を解釈する場合、回帰分析により推定される回帰係数はもちろんのこと、それらの推定に使用される変数の分布や2変量の関連を可視化しながらその意味を注意深くみなければならない。