有限仮説集合がPAC学習可能であることの証明

hiden-cubist.hateblo.jp

以前の記事で、有限仮説集合と実現可能性を仮定した場合、十分に訓練データが多ければ経験損失最小化によって近似的に期待損失を小さくできることを示しました。今回はこれを一般化したPAC学習について述べた後、実現可能性の仮定を外すことを考えます。

IssueとPull Requestを出す時のメモ

OSSにIssueとPull Requestを出す手順をメモしておきます。慣れれば手順は簡単なので、自分ができることから積極的に色々なOSSに貢献していきたいですね。

ベイズ推定とグラフィカルモデル Section10 Worksheet

ベイズ推定とグラフィカルモデルの略解をまとめています。あくまで個人のメモですので、必ずしも正しい保証はありません。もしミスがある場合は教えていただければ幸いです。今回はSection10です。

過学習を防ぐ2つの方法！〜統計的機械学習の基礎〜

機械学習と過学習

機械学習モデルを訓練すると、しばしば過学習に陥ります。過学習というのは訓練データに過剰に適合してしまい、未知のデータに対してうまく適合しなくなってしまう、すなわち汎化能力が低い状態を表します。過学習を防ぐためには訓練データを増やせば良い！と言われることがありますがそれは何故でしょうか？ここでは統計的機械学習の理論から過学習を防ぐ方法について考えてみようと思います。まずは、未知のデータや訓練データに対してモデルがどれほど適合しているかを表す期待損失、経験損失を定義しましょう。

ベイズ推定とグラフィカルモデル Section9 Worksheet

ベイズ推定とグラフィカルモデルの略解をまとめています。あくまで個人のメモですので、必ずしも正しい保証はありません。もしミスがある場合は教えていただければ幸いです。今回はSection9です。

ベイズ推定とグラフィカルモデル Section8 Worksheet

ベイズ推定とグラフィカルモデルの略解をまとめています。あくまで個人のメモですので、必ずしも正しい保証はありません。もしミスがある場合は教えていただければ幸いです。今回はSection8です。

ベイズ推定とグラフィカルモデル Section7 Worksheet

ベイズ推定とグラフィカルモデルの略解をまとめています。あくまで個人のメモですので、必ずしも正しい保証はありません。もしミスがある場合は教えていただければ幸いです。今回はSection7です。