突然終わるかもしれないブログ

確率や統計の内容について記事を書く予定です.

ベイズ統計

Ridge回帰とLasso

Ridge回帰とLassoの簡単な方法の紹介です(メモ).Rのパッケージglmnetを使って簡単にできます*1. Ridge回帰とLasso 線形回帰モデルとは \[ y=X\beta+\varepsilon,\quad y\in\mathbf{R}^n,\quad X\in\mathbf{R}^{n\times p},\quad \beta\in\mathbf{R}^p,\q…

混合正規モデルに対するジェフリーズ事前分布

ある論文を読んでいたらジェフリーズ事前分布に基づく事後分布がimproperな例が載っていたので. 設定はシンプルです.以下のような一次元のパラメトリックモデル$\{p(x|\theta)|\theta\in\mathbf{R}\}$を考えます.\[ p(x|\theta)=\frac{1}{2\sqrt{2\pi}} \…