2009-09-01から1ヶ月間の記事一覧

PRML読書会#7 資料「5.7 ベイズニューラルネットワーク(1)」

これは パターン認識と機械学習(PRML)読書会 #7 (5章 ニューラルネットワーク 後半) での発表用の資料「5.7 ベイズニューラルネットワーク」です(作成中)。 はてP でプレゼン資料になります。 論文読むときに役立つよう、用語は英語で書いたりしてます。細…

iVoca の履歴から単語の難易度を計算

まずは iVoca のデータを使って自分で IRT で計算してみるところからかな。 というわけで、ユーザの学習履歴から単語の難易度を求めるコードを書いてみた。 ソーシャルっぽい! 残念ながら IRT(項目反応理論) について書かれた文献を持っていないのだが、id:…

ユーザの知らない単語予測がおもしろそう

PRML Hackathon の最中に、twitter の TL に流れてきた つぶやきで、SBM 勉強会 での id:niam さんの「SocialDict - 英文Webページのスマートな注釈・辞書引きシステム」がおもしろそうなお話と知った。 そんなん、SBM は興味の範囲外だし、タイトルからはそ…

PRML Hackathon #1

パターン認識と機械学習(PRML) Hackathon #1 という、集まって各自思い思いに好きなものを作る(ん?)*1という Hackathon があったので、のこのこ行ってきた。 せっせと実装して、 19時くらいから各自の作ったものを軽く発表。 PRML に直接関係ないことをや…

Ruby で MNIST 手書き文字データを扱う

PRML Hackathon #1 参加中。 はやくもプチ煮詰まり中(ぉぃ)。 Ruby で書いている人は他にいなさそうだが、気晴らしに Ruby で MNIST データを扱うためのコード片を さらしてみる。 require 'zlib' n_rows = n_cols = nil images = [] labels = [] Zlib::Gzip…

ニューラルネットワークで分類

ニューラルネットワーク作ってみた と XOR 学習させてみた の続き。 まず、ニューラルネットワークのエンジンをバージョンアップ。 誤差関数を選べるようにした。 逆伝播を実装。数値微分と逆伝播のどちらを使うか選べるように。 #(前略) # network network …

PRML 読書会 #6

書くの忘れてたので、さらっと。 8/29 に「パターン認識と機械学習(PRML)」読書会 #6 があった。 関係各位お疲れ様でした。 今回は§5.1〜5.4 のニューラルネットワーク前半。 PRML5章は、他の章と比べても、読むと実装してみたくてうずうずくる度 max なの…