多変量解析の場合、手を動かすにも限度がありますので、行列を用いた方が便利ですね。今回は、分散共分散行列と最尤（ゆう）推定法を用いて因子分析を実行してみます。
資料はこちら → 2因子分析その4
p.1 １変量の場合はガウスの正規分布の式になりますが、２変量の場合は釣鐘状の式で表されます。多変量正規分布の式が左上です。Σが分散共分散行列でD2の部分はマハラノビス距離です。全ての変量の確率密度関数ｆを掛け合わせたものをＬとします。これを「尤度関数」と呼び、通常は最大確率になる条件を求める際に用います。 今回の場合は、理論と実測値の誤差をゼロに近づけるような適合度関数ｆMLを設定します。この導出は、p.5に載せましたので、興味のある方はご覧ください。
p.2 理論の分散共分散行列Σと実測値の分散共分散行列Sを示します。この２つの行列の誤差がゼロになる場合のパス係数を求めます。
p.3 Excelのソルバーを用いて分析します。Σの逆行列を「MINVERSE」で算出後、実測値の分散共分散行列Sに掛けて得られた行列の行列式及び対角の和を算出して、適合度関数に代入します。ソルバーで適合度関数が最小になる際のパス係数を求めます。
p.4 最尤推定法と「わかっている場合の確認」で求めた最小二乗法によって算出したパス係数は、完全一致しませんが、どちらが正確かどうかの検証が必要ですね。どのように検証するかについては、わかり次第、説明します。
p.5 p.1真中の式の両対数をとります。通常は、この値が最大になる条件を見出すのですが、今回は誤差ゼロになる最小の条件を求めたいので、両辺にマイナスを掛けます。赤字の性質を用いて変形していき、下から２つ目の式が得られます。最小問題の場合n/2は影響を与えないので無視し、χ2 検定できるように最小値問題に影響しない補正項ln|S|+Nを差引いて適合度関数が得られます。この補正項の意味はまだ理解できておりません。
まだまだ完全に理解できておりませんが、最小二乗法にしろ最尤推定法にしろ、誤差を最小にする考え方は同じでした。多変量正規分布の式にマハラノビス距離が出てきたことは新たな知見です。その意味するところをもう少し理解したいと思います。