人工知能に関する断創録スマートフォン用の表示で見るスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。ロボティクス、生物学などに興味を持っています。このブログでは人工知能のさまざまな分野について調査したことをまとめています。Learning、Kerasに関する記事が多いです。2010-03-27多項式曲線フィッティング機械学習PRMLPRMLをよく理解する&復習のために自分でもコーディングしていきます。Rを使っている方がいて(Rでベイズ線形回帰の予測分布)Rでやろうかなぁと思ったのですが慣れているPythonを使うことにしました。Pythonにも数値計算用のSciPyとNumPy、グラフ描画のmatplotlibというRに匹敵するライブラリがそろっています。デフォルトでは入っていないので別途インストールしてください。PRML1.1の多項式曲線フィッティングです。いわゆる最小二乗法ってやつですね。観測値xとtの訓練集合から多項式曲線のパラメータwを求めるという課題です。訓練データ集合から作ります。PRMLでは、sin(2πx)の関数値を計算したあとに、ガウス分布に従う小さなランダムノイズを加えて対応するtを作っています。Pythonだと下のような感じかな。実行すると下のようなグラフが表示されます。PRMLの図1.2と同じようなグラフです。M次多項式関数を作ります。wlistがパラメータベクトルwです。次数がMのときパラメータ数はM+1なので注意してください。tlistからパラメータwlistを求めます。式(1.2)の二乗誤差関数を最小化するようなwを見つけることを考えます。E(w)を各w_iで偏微分して0とおくとM+1個の連立方程式(正規方程式)が立てられ、この連立方程式を解くとパラメータwが求められます。これをやれってのが、演習1.1ですが、紙と鉛筆でごりごり解くと式(1.122)と式(1.123)の連立方程式になります。式(1.122)は各w_iについて得られるのでM次多項式の場合はM+1個の連立方程式になります。連立方程式はnumpy.linalg.solve()という関数で解くことができます。この部分を実装すると下のようになります。連立方程式をAw=Tという行列表現にして、AとTを式(1.123)で計算し、最後に連立方程式の解wlistを求めます。最後に、モデル曲線をプロットして完成です。今までのを全部まとめると下のようになります。Mの値をいろいろ変えてグラフを書いてみました。M=0やM=1だと多項式モデルが貧弱すぎてデータをちゃんとフィッティングできていません。M=3はちょうどよいです。M=9はモデルが複雑すぎて訓練データはちゃんとフィッティングできるけど他の部分ではまったくダメで明らかに過学習してます。上のプログラムはパラメータwlistの値を出力していますが、表1.1にあるようにM=9だと非常に大きな値になることがわかります。過学習を防ぐためには(1)データ数を増やす(2)正則化するという解決策があるようです。簡単にデータ数を増やしてみます。100点取る結果は、確かにデータ数を増やすと過学習は深刻な問題ではないようです。次に、データ数は増やさないで正則化してみます。式(1.4)のように誤差関数に罰金項をつけるだけで本当に解決できるんですかね?同様にパラメータwを解析的に計算します(演習1.2です)。答えは教科書に載っていませんが、係数行列Aの対角成分にλを足せばよいという結果が得られました。ためしに先ほど過学習していたM=9でlnλ=-18、λ=exp(-18)として正則化項を導入してみます。λの値すごくちっさいですね。こんなんで効果があるんでしょうか?おおおー、過学習が抑えられています。パラメータwlistの値を見ても小さくなっていることがわかります。誤差関数に罰金項をつけるだけで抑えられるってのは新鮮な驚きでした。sin以外もちゃんとフィッティングできるか試してみたいですね。»プロフィールid:aidiary人工知能とその関連分野に興味があります。Blog|ブログを報告する。