回帰分析では、説明変数同士に強い線形関係があると、個々の回帰係数の標準誤差が大きくなり、信頼区間が広がるなど、係数を精度よく推定しにくくなることがあります。
このような問題に関連する現象を「多重共線性」と呼びます。
多重共線性の考え方や基本的な対応方法については「多重共線性の考え方と対応方法」で解説しています。
相関係数や散布図を使った確認も有用ですが、複数の説明変数が組み合わさって関係している場合、変数同士を1組ずつ確認するだけでは十分でないことがあります。
そこで役立つのが、VIF（Variance Inflation Factor、分散拡大係数）です。今回は、VIFの考え方や計算方法、判断の目安となるカットオフ値について解説します。
VIF(分散拡大係数)とは？
VIFとは、ある説明変数が「他の説明変数によってどれだけ説明されてしまうか」を数値化した指標です。
注目している説明変数を x とすると、その説明変数に対するVIFは次の式で定義されます。
VIF = 1 / (1 − R²)
ここで R² は、説明変数 x を目的変数、残りの説明変数を説明変数とした回帰分析を行ったときの決定係数です。
つまり R² は、x が他の説明変数によってどの程度、線形に説明されるかを表します。
R² が0に近ければVIFは1に近くなり、R² が1に近づくほどVIFは大きくなります。したがって、VIFが大きい場合、その説明変数は他の説明変数と強い線形関係を持っている可能性があります。
VIFは説明変数同士の線形関係によって、回帰係数の推定分散がどの程度大きくなるかを表す指標でもあります。
例えば、VIFが5の場合、他の条件を一定とし、説明変数間に線形関係がない場合と比較すると、回帰係数の推定分散は5倍になります。標準誤差は分散の平方根に比例するため、約2.24倍になります。
このように、VIFが大きくなると回帰係数の推定精度が低下し、信頼区間が広がったり、個々の説明変数の効果を評価しにくくなったりする可能性があります。
VIFの計算方法
VIFの計算は、次の手順で行います。
ステップ1: 説明変数を1つずつ目的変数に置き換える
説明変数が x₁, x₂, x₃ の3つあるモデルを考えます。まず x₁ に対するVIFを求めるために、x₁ を目的変数、x₂, x₃ を説明変数とした回帰分析を行います。
ステップ2: 決定係数 R² を求める
ステップ1の回帰分析から決定係数 R₁² を求めます。
ステップ3: VIFを計算する
ステップ2で求めた決定係数を使って、次のようにVIFを計算します。
VIF₁ = 1 / (1 − R₁²)
この手順を x₂、x₃ についても同様に繰り返すことで、説明変数ごとのVIFが求まります。
具体的な数値で見てみましょう。x₁ を他の説明変数で回帰したときの決定係数が R₁² = 0.8 であれば、VIF₁ = 1 / (1 − 0.8) = 5 となります。一方、R₁² = 0.9 まで強い線形関係があると、VIF₁ = 1 / (1 − 0.9) = 10 と一気に大きくなります。決定係数がわずかに上がるだけでVIFは急激に増加する点に注意しましょう。
VIFは1以上の値を取り、1であれば、対象の説明変数は他の説明変数との線形関係による推定分散の増加を受けていません。
VIFの目安・カットオフ値
VIFのカットオフ値には、統一された基準がありません。一般的には、VIFが10以上であれば強い多重共線性を疑い、5以上を注意すべき目安とする考え方があります。
- VIF ≥ 10: 多重共線性の問題があると判断されることが多い、比較的緩やかな基準
- VIF ≥ 5: より厳しめに設定される基準。臨床研究の論文では5を基準とする例も見られる
ただし、これらの数値はあくまで経験的な目安です。VIFが5未満であっても、解析の目的によっては推定精度への影響を無視できない場合があります。
数値だけで機械的に判断するのではなく、どの係数を推定したいのか、その推定精度にどの程度の影響があるのかを考慮することが重要です。
なお、VIFの逆数である 1 / VIF は、トレランス（Tolerance、許容度）と呼ばれます。VIFが10であればトレランスは0.1となり、トレランスが小さいほど多重共線性が疑われます。
VIFとトレランスはどちらも同じ情報を表しているため、論文でどちらの表記が使われていても同様に解釈できます。
VIFが高い説明変数が見つかったら?
VIFによって多重共線性が疑われる説明変数が見つかった場合は、数値だけで変数を機械的に除外するのではなく、解析の目的や各変数の役割を踏まえて対応を検討しましょう。
主な対応方法として、次のようなものが考えられます。
- 重複する情報を持つ変数を整理する：医学的な意味を踏まえ、同様の情報を表す説明変数が複数含まれている場合は、どの変数を使用するか検討する
- 変数を除外せずに解析を続ける：VIFが高くても、解析の目的や推定精度への影響を確認したうえで、モデルを維持する
それぞれの対応方法の具体的な考え方は「多重共線性の考え方と対応方法」で解説しています。
特に交絡因子など、医学的・統計学的な理由から調整が必要な変数はVIFが高いという理由だけで安易に除外すべきではありません。
VIFは多重共線性による推定精度への影響を評価するための診断指標です。
高い値が見つかった場合は、推定したい効果、各変数の役割、回帰係数の標準誤差や信頼区間への影響などを確認し、適切な対応を検討しましょう！
まとめ
今回は、VIF（分散拡大係数）について解説しました。
- VIFは、ある説明変数が他の説明変数によってどの程度、線形に説明されるかをもとに、多重共線性の影響を評価する指標
- VIF = 1 / (1 − R²) で計算され、値が大きいほど回帰係数の推定分散が大きくなる可能性がある
- VIFが5以上、または10以上であれば注意するという目安があるが、統一されたカットオフ値はない
- VIFが高い場合でも、数値だけで変数を除外せず、研究目的や各変数の役割を踏まえて対応を検討する
相関係数や散布図による確認に加えてVIFを用いることで、複数の説明変数の線形関係をより客観的に評価できます。
分割表や散布図による確認方法とあわせて確認したい場合は「多重共線性の考え方と対応方法」も参考にしてください。
ただし、VIFは多重共線性の影響を評価するための指標であり、値だけで解析モデルの良し悪しを判断できるわけではありません。医学研究で多変量解析を行う際は、VIFを参考にしながら、推定したい効果や解析の目的に合ったモデルを検討しましょう！
