今日は初心者向け記事です。はじめにある範囲の年齢の小学生32人を無作為に選び、算数のテストを受けてもらい、さらにその身長を測定しました。身長に対する算数の点数のグラフは次のようになりました。なんと、身長の高い子供の方が、算数の点数が高いという結果になりました!身長が算数の能力に関係しているなんて、すごい発見です!しかしながら、結論から言うと、この結果は間違っています。抽出したのは「ある範囲の年齢の小学生」であり、年齢の高い子も低い子も含まれているからです。年齢が高いほど算数能力は高くなり、年齢が高いほど身長も高くなることは容易に推測できます。この関係を図で表すと次のようになります。年齢と算数能力に相関があり、年齢と身長にも相関があるため、身長と算数能力にも見かけ上の相関が見えているのです。このような相関を擬似相関と言います。統計解析では、このような擬似相関に騙されてしまうと、誤った結論を導いてしまいます。今日は、擬似相関に騙されないために、疑似相関を見抜く統計的テクニックについて説明しようと思います。データの準備まずはデータの準備です。データとしては上で説明したものを使用します。134.3算数の平均点数(AMA)、年齢(YEARS)、身長(HGT)が入ったデータです。プロットしてみると、すべての変数間に相関が見られます。elimination)を行います。統計的消去とは、解析結果からある変数の影響を取り除くことです。具体的に見ていきましょう。今、身長と算数能力の関係を見たいとします。これらの変数は年齢に影響されますので、年齢の影響を取り除いて、純粋な2変数間だけの関係を見たいのです。ここで、次のように考えてみます。年齢に対する標準身長というものがわかれば、身長から標準身長を引いたもの(残差)というのは、年齢に影響されない身長データと見なすことができるのではないでしょうか。これは算数能力についても言えるので、そうやって計算された2つの残差間の関係を見れば、年齢の影響を取り除いた上で解析をしているのと同じことになります。そこで、まずは年齢に対する標準身長を回帰分析で求めてみます。0)左図は回帰直線、右図は残差です。右図は左図の回帰直線を水平になるまで回転させたものだと思ってください。これが年齢の影響を取り除いた身長データになります。同様にして、年齢に対する標準的な算数能力について求め、年齢の影響を取り除いた算数能力データを作成します。0)もし、身長と算数能力が真の相関関係にあるならば、これらの残差(年齢の影響を取り除いたデータ)の間に相関が見られるはずです。19)abline(model3)どうやら、これらの値には相関は見られないようです。したがって、身長と算数能力との関係が擬似相関であったことが分かります。同様にして、年齢と算数能力との関係から、身長の影響を取り除いてみましょう。0)これらの残差(身長の影響を取り除いた年齢と算数能力)の関係をプロットしてみましょう。19)abline(model6)これらの値には、はっきりとした相関が見られます。したがって、年齢と算数能力は、真の相関関係にあると言えます。以上が、統計的消去の基本的な考え方です。統計的消去を行うことで、擬似相関を見抜くことができました。調整平方和による分散分析この統計的消去の考え方は、分散分析にも利用されます。上記算数能力のデータについて、まずは普通の分散分析表を出力してみましょう。関数では、身長(HGT)も年齢(YEARS)も両方とも有意になってしまいます。*1これでは算数能力と身長の関係が擬似相関であることを見抜けません。1年齢は有意のままですが、身長が有意ではなくなります。これは、それぞれの変数に対して、他の変数を統計的消去した結果です。このような分散分析を、調整平方和による分散分析といいます。*2分散分析の平方和のタイプについてはこちらまとめ統計的消去により擬似相関を見抜くことができました。統計的消去の原理は非常に簡単だったと思います。擬似相関を見抜くために本当に難しいのは、今回の年齢のように原因となっている変数を見つけ出すことだと思いますので、そこらへんは頑張っていただくしかなさそうです。17:06大変面白かったです!勉強になりました。21:00補足しておきましょうね。2つの変数のそれぞれについて,第3の変数で説明出来い部分(残差)の相関係数を計指したものは,「第3の変数の影響を取り除いた(制御した)偏相関係数」というものになります。偏相関係数は2変数間の相関係数から計算されます。このブログの記事は,偏相関係数の導きかたとそれによって疑似相関関係を暴くことについて,教育的な記事ですね。いうことを説明しているわけです。21:05変換ミスがありましたすみません。