杉野 勇 (SUGINO Isamu)　お茶の水女子大学・人間発達科学専攻・応用社会学コース担当

　本文の，幸福度を，年齢，教育年数，階層帰属意識，世帯年収で説明する重回帰分析を行い(reg0901)，その結果を表示する。データフレイム名はdata01としているので注意せよ。

　偏回帰係数は，年齢と教育年数は全く有意ではなく，階層帰属意識(q1502)と世帯収入は1%水準で有意である。
　標本偏回帰係数(Estimate)をその標準誤差(Std. Error)で割った値がt統計量(t value)であり，その両側検定の有意確率が(Pr(>|t|))である。オブジェクトに格納された情報を使って，この事を以下の様に確認してみよう。

それぞれの計算結果が何処に対応しているのかよく確認しよう。因みに，この自由度(df=287)のｔ分布の95%区間の限界値はqt(.025, df=reg0901$df.residual, lower.tail=F)もしくはqt(.975, df=reg0901$df.residual)で求めることができ，1.968264である。

　95%信頼区間，90%信頼区間をconfint( )関数で求めた後，90%信頼区間の上限と下限をオブジェクトreg0901やsum0901の情報を使って求めてみる。結果がきちんと一致している事を確認して，信頼区間の関数がどの様な計算をしているのかなどについて理解を深めよう。


この例題をベイズ統計学的手法で計算した例を，このサポートウェブの〔付録〕2-2に示しています。

　分散分析表を作成する為に，anova( )関数を使用する。また，独立変数の平方和の合計を求めるために少し工夫している。


　F統計量と分散説明率の関係を数式で本文よりも丁寧に示しておこう（クリックしてPDFに）。

　Rでの計算の確認は以下の通りである。


　偏回帰係数のt検定と（部分）モデルのF検定の同等性については，本文では簡単な説明しか出来なかったので，ここで少し詳しく説明しておこう。


モデルSからモデルLへは分散説明率の増分は.0416（4.16%ポイント）であり，自由度の増加は1である。

モデルLとモデルSの分散説明率の増加分から計算したF統計量であるF0は，モデルLの独立変数x4のt統計量の二乗と一致している。最後のF0のF検定の有意確率もモデルLの独立変数x4のt検定の有意確率と一致している。

　全ての変数を完備ケース分析用に準備した上で標準化し，重回帰分析を行う。そして，標準化偏回帰係数と独立変数・従属変数の標準偏差から非標準化係数を計算し，1-2のモデルLの結果と一致する事を確認する。最後に，標準化係数の信頼区間を求めておく。（出力結果では準備の部分は省略した。）


階層帰属意識x3と世帯年収x4の標準化係数の絶対値は階層帰属意識の方がやや大きかった。信頼区間（の絶対値）を見ても階層帰属意識の方が下限値も上限値も大きいが，しかし信頼区間はかなり重なっており，母集団に於いてはx4の効果の方が大きい事もあり得る。

　今までの分析結果からまずは，本文の様な，重回帰分析の結果表を作成する為に必要な情報を出力する。


　次に，複数のモデルの結果を比較する表の一例を作成してみよう。同じデータセットで複数のモデルの優劣を判断する場合，分析に使用されるケースを同一にしておくのが良い。特に完備ケース分析の場合，それぞれのモデルで有効ケースが大きく異なってしまわないように注意すべきである。
　表に整理すべき情報は分析によって異なるかも知れない。非標準化偏回帰係数と標準化係数のいずれを表記すべきか，標準誤差は必要かそれとも有意水準を記すだけで十分かなど，迷う点もあるかも知れない。以下の例では，それぞれの独立変数が従属変数に影響しているかどうか，独立変数間でどれが影響力が大きいか，などに関心があると想定して，標準化係数と有意水準のみを表に纏めた（標準誤差，信頼区間は省略した）。

従属変数： 幸福度
	モデルS		モデルL
変数	標準化係数	有意水準	標準化係数	有意水準
年齢	-.031		-.067
教育年数	.141	*	.072
階層帰属意識	-.316	***	-.275	***
世帯収入	---		.223	***
R2	.125		.167
調整済みR2	.116		.156
AIC	798.78		786.21
ΔR2	.0426***
ケース数	292

AICは，「予測の悪さ」の指標なので，小さい方が良いモデルである。なお，この場合はモデルLにおける世帯年収のt検定と，二つのモデルの差のF検定は同値である。世帯年収を追加投入したところ，世帯収入は高度に有意となり，モデルSでは5%水準で有意であった教育年数がモデルLでは有意ではなくなった。教育年数が幸福度にわずかに影響していると見えたのは実は世帯年収の効果が，世帯年収と或程度関連のある教育年数の効果として表れてしまっていただけであると考えられる。

　自由度調整済み決定係数（分散説明率）については，本文の説明をもう少し詳しくPDにて説明している。

　これまでの分析結果例でも，自由度調整済み分散説明率が無調整説明率よりも必ず小さな値になっている事が確認出来るだろう。
　上の1-4の重回帰分析の結果表の情報から自由度調整済み分散説明率を計算して確認してみる。

無調整のR-squaredが同じであれば，独立変数の個数pが多いほど調整済みR-squaredは小さくなる。式をよく見て理解しよう。

　第7章発展1では，2群の母平均の差のt検定と1要因分散分析が同値である事を，第8章発展1では，2群の母平均の差のt検定と単回帰分析が同一である事を示した。ここから，要因（独立変数）が2カテゴリの場合には，1要因分散分析と単回帰モデルも同値である事が分かる。本章の発展では，要因（独立変数）が3カテゴリ以上の場合に，一要因分散分析と（複数のダミー変数を用いた）重回帰分析が，同じ一般線型モデル（一般線形モデル）として同値である事を分析例で確認する。
　まずはダミー変数の作成方法を紹介しよう。本文では省略したが，最も初歩的な方法だと（例えば）次の様に作る事が出来る。これは殆ど何の工夫もしていない。

　本文で紹介したものはこれより少し工夫を施している。上と比べる為にそれぞれD2, D3, D4としよう。


　第7章の分散分析の結果を再確認しておく。

　これを，ダミー変数重回帰で再現してみよう。後の事を考えて，分析結果を一つ一つオブジェクトに格納しながら進めている。

　最下行のF検定の結果は分散分析の結果と一致している。定数項は804.31（万円）となっているが，これが参照カテゴリである正規雇用者の世帯年収の平均と一致し，非正規雇用ダミーd2の偏回帰係数は，非正規雇用の平均631.8と正規雇用の平均804.3との差を示している。
　全てのカテゴリの平均を，分析結果を利用して計算・表示しよう。

　重回帰分析の結果における，各ダミー変数の偏回帰係数のt検定の部分が，有意水準無調整の多重比較（つまり通常の2群でのt検定）に一致する事も以下の様に確認しよう。

　有意確率の小数の表示形式が異なるので分かりにくいかも知れないが，この多重比較の表のうち1列目（つまりカテゴリ1と他のカテゴリの比較の検定の有意確率）の数値は，重回帰分析のCoefficientsの"Pr(>|t|)"の列の結果と一致している。つまり，複数のダミー変数の偏回帰係数のt検定は，単純に二群ごとの平均値の比較のt検定を行っている事と同じなのである。異なる点は，通常の多重比較は全てのカテゴリ間の平均値差を検定するのに対して，ダミー変数重回帰では参照カテゴリと他のカテゴリとの平均値差の検定しか行わない点である。例えば上の重回帰例では，非正規と自営の平均値差の有意確率は計算されない。ここからも，どのカテゴリを参照カテゴリとすべきかが重要である事が分かる。
　ダミー変数重回帰の偏回帰係数のt検定に対応する，有意水準を調整した多重比較の方法に，Dunnett法がある。本文では脚注で簡単に触れただけであるが，ここで実際に実行してみよう。
　まずは，multcompパッケイジを新たにインストールするところから始める（出力結果は省略）。

　先頭のカテゴリとそれ以外のカテゴリの比較だけが検定されている事が読み取れる。有意確率は，偏回帰係数のt検定や無調整のカテゴリ間t検定の有意確率よりも3倍近く高くなっている事が分かる。これが，検定の多重性を調整した結果である。
　confint( )関数を使って，平均値差の信頼区間の出力も可能である。95%信頼区間が，有意水準5%の仮説検定の結果と対応する事はもう理解出来ただろうか。

　最後に，独立変数にカテゴリカル変数を指定した線型モデルlm( )の結果がダミー変数重回帰の結果と完全に一致する事を示しておこう。この様にして，同じ事を様々な方法で実行してみる事を通して，それぞれの分析手法についての理解を深めていけると良い。

1) の答え： 出力結果は多少省略した。（これまで同様，本文ではデータフレイム名をdataとしているが，サポートウェブではdata01としているので注意されたい。）

　モデルのF検定は1%水準で有意で分散説明率は35%弱，全ての独立変数の偏回帰係数も1%有意である。標本偏回帰係数を見ると，女性より男性は350万円余り個人年収が多く，年齢が1歳上だと5.4万円，教育年数が1年長いと42万円個人年収が多い。
　独立変数の設定値をヴェクトル化して，予測値を次の様に計算させる事が出来る。


2) の答え：

　モデルの検定結果は1)と全く同じである（そうあるべきである）。標準化偏回帰係数のt検定の結果も，t統計量と有意確率は全く変化しない。係数の値は変化しており，性別＞教育年数＞年齢の順に絶対値が大きい。よって従属変数に対する効果の大きさはこの順に大きいと言える。

3) の答え：

　よく見ると，標準化した年齢と教育年数の結果は2)と全く同じである。男性ダミーは標準化していないので，女性よりも男性の方が個人年収が1標準偏差余り高いと云う事が読み取れる。この影響力は，年齢の8.2標準偏差分，教育年数の4.2標準偏差分に相当する。
　2)と3)のどちらがより適切かを言うのは難しいが，そもそも0か1の値しかとらない筈のダミー変数を標準化して「男性ダミー変数が1標準偏差大きいと個人年収が0.51標準偏差大きい」と述べても意味するところが明確だとは思えない。異論もあるかも知れないが，ここではダミー変数に関しては標準化しない立場を提案しておこう。

4) の答え：

　glm01におけるeduの偏回帰係数のt検定の結果を参照する。


5) の答え： 男性ダミー変数や従業上の地位というカテゴリカル変数を含む事を考慮し，非標準化解を優先する。参考の為にそれ以外の変数を標準化した解も後で求めておく。

　1)の結果と比較すると，分散説明率は35%弱から44%弱に大きく上昇した。男性ダミーの効果は140万円ほど低下している。年齢の効果は微増（10歳で54万円から64万円へ），教育年数の効果は微減（4年で170万円から140万円へ）したが大きな違いではない。新たに追加投入した従業上の地位は正規雇用が参照カテゴリ（基準カテゴリ）になっており，自営は正規より66万円ほど低いが統計的に有意ではない。非正規は正規より220万円有意に低く，無職は正規より300万円有意に低い。男性ダミーの効果の減少分の多くは，従業上の地位の効果に表れたと考えられる。つまり，男女で従業上の地位（特に正規，非正規，無職）の分布が異なり，その影響が最初のモデルでは男性ダミーの係数に反映されていたのだと考えられる。
　以下は，ダミー変数以外を標準化した標準化解の結果である。