Contrastive Divergence法 (Hinton, 2002)について少し勉強したので，そのまとめです． Contrastive Divergence 法とは （確率的な）最適化方法です．正確には正規化定数が分からない（求めるのが困難）確率分布のためのパラメータの最尤法です．特にBoltzma…

Reproducing Kernel Hilbert Spaces in Probability and Statistics作者: Alain Berlinet,Christine Thomas-Agnan出版社/メーカー: Springer発売日: 2003/12/31メディア: ハードカバー クリック: 2回この商品を含むブログ (1件) を見るの勉強まとめ（４章）…

演習問題のまとめその１（第１章）です．[9]$K$を$E\times E$上の正定値関数とする．$E$上の関数$f$が$K$を再生核に持つRKHS$\mathcal{H}_K$の元であることと，ある正の定数$\lambda$が存在して$K(s,t)-\lambda f(s)\overline{f(t)}$が正定値関数であること…

Reproducing Kernel Hilbert Spaces in Probability and Statistics作者: Alain Berlinet,Christine Thomas-Agnan出版社/メーカー: Springer発売日: 2003/12/31メディア: ハードカバー クリック: 2回この商品を含むブログ (1件) を見るの勉強（Exercise）の…

Rのパッケージ，library(sde)の紹介です．このパッケージでは確率過程のシミュレーションが簡単にできます．たとえばブラウン運動を発生させたければ > BM function (x = 0, t0 = 0, T = 1, N = 100) という関数を使うことで， 初期値$x$，初期時刻$t_0$，最…

PRML(12章)のまとめです． 観測値 $\{x_n\}_{n=1}^N\subset \mathbf{R}^D$ があるとき，$u_1\in\mathbf{R}^D$への観測値の射影が最大になるような $u_1\in\mathbf{R}^D$ を探すことを考えます．$u_1$ は観測値 $\{x_n\}_{n=1}^N$ の一番の【特徴】を表す方向…

主張X,Yは独立にゼータ分布に従うものとする．つまりとする．このとき(gcdは最大公約数)とすると，となる．[D.Williams: Probability with martingales, p226] 証明とすると， 達は独立．何故ならばであるため．これよりとなる．次に つまりX,Yが互いに疎に…

次の記事でKaratzasAndShreveのProblem3.2.28の証明をしたいと思いますが，そこで使う補題を示しておこうと思います．主張 を確率空間とし， を の部分σ加法族とする． また をほとんど確実に有界な 可測関数とし， を平均 0 分散 t の正規分布に従う と独立…

cross variation の一意性(つづき)cross variationの一意性はやはり言えることを，Doob-Meyer分解の証明(分解の一意性のところ)をみて思いました．[証明] はどちらもnatural,increasingな過程の差で表されるから，任意の有界右連続マルチンゲール にたいして…

cross variation の一意性 で書いた証明は間違っていることに気づきました．＜X＞+2A+＜Y＞がincreasing であることを言うときにcross variation の全変動を抑える不等式は，間違えでした．とりあえず調べてみるとIkeda-Watanabe(Stochastic Differential Eq…

主張 (2乗可積分マルチンゲールでかつ)とする．このとき がマルチンゲールとなり，しかも という分解を持つものはindistinguishabilityを除いて一意である．ただしとする． 証明 をX,Yの二次変分過程とする． がマルチンゲールであるから，もマルチンゲール…

一度証明を書いておこうかと思います．主張 を実数に値を取る，右(左)連続で -adapted な過程とする．このとき過程Xは発展的可測である．[証明] 右連続の場合のみ示す．左連続の場合も同様． を以下のように定義する． は に各点収束する．実際 は右連続であ…

からしゅれにも参照の本が挙げられていたけれど，ぐぐったら出てきたので紹介を．The Strong Markov Property and Martingale Problemsこの関数fを見つけてきたのはすごいと思いました．

Definition を確率空間，を可測空間とする． を可測写像， を実確率変数とし可積分とする．このとき  とすると， は上の符号付き測度となる．また (像測度) とすると， は に関して絶対連続となる． よってRadon-Nykodim 導関数が存在し，それを と表…

からしゅれに右連続非負値submartingaleはclass DLであるという主張があって，同様に右連続martingaleもclass DLとなることが言える．証明 a>0を固定し，となるstopping timeの族をとする．定義よりが一様可積分であることを示せばよい．Jensenの不等式より…

可分距離空間上のtightでない確率測度の例 でルベーグ外測度1，ルベーグ内測度0の集合の存在を認めたのですが，[0,1]の部分集合A,Bでdisjointかつともにルベーグ外測度が1であるようなルベーグ非可測集合の存在を教えていただきました．詳しくはルベーグ非可…

完備可分距離空間上では確率測度の族 がtightであることと，相対コンパクトであることは同値．けれども可分距離空間上の確率測度でtightでないものが存在する(よって相対コンパクトであるがtightでない例になっている)．この例はBillingsleyの Convergence o…

タイトルの主張は確率論のテストで必要だった主張です．テストの時は分かりませんでした． ですが，零集合の非可算和は零集合とは限らないのでこれではうまくいかないです．そこでFubiniの定理を使います．P^Xを像測度とするとき，XとYは独立であるから， で…

Fは分布関数の条件を満たすとき，Fはある確率変数の分布関数になっているという定理の証明ででてくる という確率変数が左連続なのか？というのを友だちと一緒に考えた． まずは定義から明らか．これの対偶をとって これより をとる． と仮定するとが任意のn…

Durrettの本にSince there is a sequence of random variables that converges in probability but not a.s. , it follows that a.s. convergence does not come from a metric, or even from a topology.とあった． 確率論の授業でも紹介されてた主張で，ど…