PRML#1

2.1二値変数

1. ベルヌーイ分布
2. 尤度関数の最大化（logをとる）
3. 最尤推定量（サンプル平均）を求める

事前分布の導入によるベイズ的扱い

1. データ集合が小さい時、過学習する場合あり（裏が3回出たから未来永劫裏しかでない）
2. 事後分布の形が変わらないように、尤度関数のべき乗に比例するよう事前分布を選ぶ
3. ベルヌーイ分布の場合、ベータ分布が事前分布となる→実際にグラフを描いてみること
4. 追加データのたびに超パラメータが変化していく（逐次学習：実時間での学習、大規模データ集合に適している）