2010-03-01から1ヶ月間の記事一覧

NLP2010 行ってきた

ほとぼりがさめた頃に NLP2010(言語処理学会年次大会) に のこのこ行ってきた話など。 参加したのは、 3/8 のチュートリアルと、3/10 のポスターセッション(午後)。 チュートリアル午前はどちらも興味あったが、ちょうど協調フィルタ周りでいろいろ試してい…

多次元混合ガウス分布での incremental EM 更新式

計算してみた。 が、Σの式、ちょっと自信がないから実装する前に晒しとく。 [2010/03/15] Σの更新式が間違っていたので訂正(今度も絶対あってる自信はないが) x_m について更新するとき、 E step M step とおくと

PRML 読書会 #12 9章 EMアルゴリズム&10章 変分ベイズ

参考:「機械学習とパターン認識」(PRML)のアンチョコ by herumi PRML 9章や10章の数式の解説ノート。10章の大変な計算も丁寧に展開してある。 3/7 の C.M.ビショップ「パターン認識と機械学習(PRML)」読書会 #12@サイボウズ・ラボ に参加しました。各位お…

変分ベイズ実装(PRML 10.2)

「Old Faithful の推論を K-means と EM について、Rで実装」の続き。 【追記】実装にバグが見つかり、この記事の末尾の「うまく縮退しない」は間違いでした。→フォロー記事へ PRML 10章、変分推論(変分ベイズ)がいまいちわからない。 観測&隠し変数のハ…

EM アルゴリズム実装(勉強用)

最近忙しくて*1、PRML の予習が滞り中。 しかし、次の PRML 読書会に徒手空拳で行ったら、気持ちよく昇天してしまいそうなので、なんとか頑張って読んでみる。 EM アルゴリズムは何となくわかるが、変分ベイズがわからん……というわけで、Old Faithful の混合…