本日は、機械学習の最適化について勉強します。
資料はこちら → 機械学習概論2
p.1 最適化の手法に「進化的計算」と「群知能」があります。進化的計算に遺伝的アルゴリズムがあります。遺伝の場合、一点交叉、二点交叉及び突然変異があります。交叉は図のようなパターンとなります。突然変異には、反転と入れ替えのパターンがあります。遺伝アルゴリズムは、交叉と突然変異を繰り返して、最適化を進める手法です。
p.2 正解が「〇×〇××（10100）」として、合っている数を適合度とします。適合度②、③及び⑤を正解の下に書いておきます。 親が4種類の遺伝子の組み合わせの場合、適合度の平均は（2+4+2+2+0+2）／６≒２となります。３つの遺伝子の組み合わせが一点交叉の場合を示しています。アンダーライン部分が入れ替わります。一点交叉で生まれた子世代の遺伝子の内、上から４番目の遺伝子が反転による突然変異が生じたとします。適合度を遺伝子の右横に記載しておきます。親と等しい数の４種類を適応度が高い方から選びます。この４つの適合度の平均値は3.5と算出できます。 親の適合度が２なので、遺伝アルゴリズムにより最適化できたことになります。 この他に、以前「遺伝子が数式の最適解を見つける？」で実施例を説明しました。こちらもご覧ください。
p.3 群知能を用いた最適化としては、「蟻コロニー最適化法」と「粒子群最適化法」があります。何れも生物の集団行動を模倣したアルゴリズムです。
p.4 試行錯誤の手法としては、強化学習に「Q学習」というアルゴリズムがあります。Q値を評価して高い方を選択します。最後の行動３よりひとつ前の行動１のQ値が高くなるように調整するアルゴリズムです。 詳細は、「試行錯誤して信頼度が上がっていく」「冒険も必要」「泥臭く手作業で知ろう、アルゴリズム」をご覧ください。
p.5 試行錯誤の手法としては、モンテカルロ法が有名なアルゴリズムです。円周率は試行回数を増やすと精度が上がってきます。詳細は、「円の内か外か? 円周率を求める」「飛び回るダーツと円周率」をご覧ください。
機械学習は明日説明するニューラルネットワークもそうですが、生物を模倣するアルゴリズムが多いですね。それだけ、生物は複雑で有用な機能を有しているということです。