「パターン認識と機械学習」(PRML)読書会 #9 で担当する 7.2 章の資料です。 いつもついつい資料を作り込んでしまってたけど、今回は念願の「資料はアジェンダ＋疑問点のまとめ」「板書メイン」になる予定。 7.2 関連ベクトルマシン SVM(support vector mach…

Shibuya.lisp Tech Talk #4 LT発表資料 「さあ家に帰ったらSchemeのコード書いてみよう」 気付いたら Ruby 使ってる！ Lisp が生かされる部分 アセンブラがＳ式で。 アセンブラがマクロ これは挑戦と見た！(違 というわけで Ruby で CPUID。 要 RXbyak 最新…

毎度おなじみ 「パターン認識と機械学習」(PRML)読書会 #8 に のこのこ行ってきた。 お疲れ様でした＞各位。 会場が陸の孤島(!)だったので自転車かついで行ったら、前々日くらいまでは晴れの予報だったのに、夕方から雨になって……とほほ。 気を取り直して。 …

10/22 に三鷹駅近くのモダンタイムスさんで行われた Mitaka.rb #5 に、三鷹クラスタの一員として のこのこ行ってきた。 主催の @ysakaki さん他関係各位ありがとうございました＆お疲れ様でした。 「Mitaka.rb ってどんなん？」という人には、→ @ysakaki さ…

→ WiX 記事一覧 単に読み書きするだけなら簡単。 どこに書くか、x64 と x86 をまたがるときのどうするか、を考え始めると途端に難しい(まだすっかりわかってはいない)。 ちなみに、特に断りのないリンク先は全部英語。 レジストリに書き込み How To: Write a…

PRML 読書会 #8 が来週に迫る中。 カーネル法わからん…… ガウス過程わからん…… そもそも今回の会場無事たどり着けるかな…… ３つめの不安はとりあえず置いといて、わからんときは手を動かすしかない。 というわけで PRML 6.4.2 「ガウス過程による回帰」を R …

→ WiX 記事一覧 WiX は Windows Installer でアプリケーションをインストールすることができる msi ファイルを作成するためのオープンソースツール。 wxs(Windows Installer XML source file) という XML ファイルを書いて、WiX に含まれるツールでコンパイ…

たまには R のコード書いとかないと忘れる。 ただでさえ R はいろいろ特殊だってのに。 というわけで、勉強中の共役勾配法(conjugate gradient method)を R で書いてみた。といっても、pseudo code をそのまま落とし込んだだけなのだが。しかも線形。 読んで…

msi/WiX で元々用意されている機能以外のことを実行したい場合、「カスタムアクション」を駆使する。 かなり自由度は高いが、管理者権限で操作したい場合はいろいろな制限がある(Vista以降)。→ WiX 記事一覧 カスタムアクション 本記事では DLL によるカスタ…

おなじみ 「パターン認識と機械学習」(PRML) の読書会の第7回が 10/3 にあったので、のこのこ行ってきた。 関係各位お疲れ様でした。 5.7 章「ベイズニューラルネットワーク」を担当した。 資料は その１ と その２ と その３。 ちょっと予習時間が足りなく…

WiX(Windows Installer XML) について調べたこと つらつら。アトランダムに更新。→ WiX 記事一覧 WiX って？ WiX ( http://wix.sourceforge.net/ ) はインストールパッケージを生成するためのツール群＆ライブラリ。MS謹製オープンソース。 インストーラの構…

これは パターン認識と機械学習(PRML)読書会 #7 (5章 ニューラルネットワーク 後半) での発表用の資料「5.7 ベイズニューラルネットワーク」です(作成中)。 はてＰ でプレゼン資料になります。 細かい説明/計算やサンプルは読書会にて板書します。 資料その…

これは パターン認識と機械学習(PRML)読書会 #7 (5章 ニューラルネットワーク 後半) での発表用の資料「5.7 ベイズニューラルネットワーク」です。 はてＰ でプレゼン資料になります。 細かい説明/計算やサンプルは読書会にて板書します。 資料その１ 資料そ…

これは パターン認識と機械学習(PRML)読書会 #7 (5章 ニューラルネットワーク 後半) での発表用の資料「5.7 ベイズニューラルネットワーク」です(作成中)。 はてＰ でプレゼン資料になります。 論文読むときに役立つよう、用語は英語で書いたりしてます。細…

まずは iVoca のデータを使って自分で IRT で計算してみるところからかな。 というわけで、ユーザの学習履歴から単語の難易度を求めるコードを書いてみた。 ソーシャルっぽい！ 残念ながら IRT(項目反応理論) について書かれた文献を持っていないのだが、id:…

PRML Hackathon の最中に、twitter の TL に流れてきた つぶやきで、SBM 勉強会 での id:niam さんの「SocialDict - 英文Webページのスマートな注釈・辞書引きシステム」がおもしろそうなお話と知った。 そんなん、SBM は興味の範囲外だし、タイトルからはそ…

パターン認識と機械学習(PRML) Hackathon #1 という、集まって各自思い思いに好きなものを作る（ん？）*1という Hackathon があったので、のこのこ行ってきた。 せっせと実装して、 19時くらいから各自の作ったものを軽く発表。 PRML に直接関係ないことをや…

PRML Hackathon #1 参加中。 はやくもプチ煮詰まり中(ぉぃ)。 Ruby で書いている人は他にいなさそうだが、気晴らしに Ruby で MNIST データを扱うためのコード片を さらしてみる。 require 'zlib' n_rows = n_cols = nil images = [] labels = [] Zlib::Gzip…

ニューラルネットワーク作ってみた と XOR 学習させてみた の続き。 まず、ニューラルネットワークのエンジンをバージョンアップ。 誤差関数を選べるようにした。 逆伝播を実装。数値微分と逆伝播のどちらを使うか選べるように。 #(前略) # network network …

書くの忘れてたので、さらっと。 8/29 に「パターン認識と機械学習(PRML)」読書会 #6 があった。 関係各位お疲れ様でした。 今回は§5.1〜5.4 のニューラルネットワーク前半。 PRML５章は、他の章と比べても、読むと実装してみたくてうずうずくる度 max なの…

PRML 読書会 #6 がありました。皆さんお疲れ様でした。 読書会の内容については、別途。 id:tsubosaka さんに「(ニューラルネットワークの実装で) XOR の学習できました？」と聞かれて「出来るように作ったはずだけど、まだ試してない〜」と答えたので、試し…

「パターン認識と機械学習(PRML)」５章の勉強して、ニューラルネットワーク実装してみたくならんかったらヤバいよね、ってくらい実装してみろオーラが出てたので、書いた。 少し汎用的に作ってみたかったので、R ではなく Ruby。http://github.com/shuyo/iir…

勉強会とかでプレゼンした後、同じ内容をブログにまとめ直すの、めんどくさいなあ〜と思ったことありません？ ブログを書いたら、それがそのままプレゼンになればいいのに…… というわけで。 はてなダイアリーに書いた記事がそのままプレゼンテーションになる…

参考：[http //d.hatena.ne.jp/n_shuyo/20110722/prml:title=「機械学習とパターン認識」(PRML)のアンチョコ by herumi]:PRML 4章の数式の解説。特にロジスティック回帰の難しいところなども詳細に書かれている。 8/8 に パターン認識と機械学習(PRML)読書会…

これは パターン認識と機械学習(PRML)読書会 #5 (4章 線形識別モデル) での発表用の資料「4.1.7 パーセプトロン・アルゴリズム」〜「おまけ(PA, CW)」です。 まとめメインで、細かい計算やサンプルは板書する予定です。 4.1.7 パーセプトロンアルゴリズム 参…

これは パターン認識と機械学習(PRML)読書会 #5 (4章 線形識別モデル) での発表用の資料「4.1.3 最小二乗」〜「4.1.6 多クラスにおけるフィッシャー判別」です。 まとめメインで、細かい計算やサンプルは板書する予定です。 【更新】読書会での指摘を反映。 …

これは パターン認識と機械学習(PRML)読書会 #5 (4章 線形識別モデル) での発表用の資料「4.1 識別関数」〜「4.1.2 多クラス」です。 まとめメインで、細かい説明/計算やサンプルは板書する予定。 【更新】読書会での指摘を反映。 PRML 4章 線形識別モデル …

前回長くなりすぎて力尽きた「線形回帰のエビデンス」の続き。って今回も むやみに長いんだけど。 パターン認識と機械学習(PRML)読書会 #4 で idojun さんと「バイアス項って要るの？」という話になり。 PRML 3.4〜3.5 のモデルエビデンス使えば評価できるか…

普段 rb の付く集まりに行くことのない似非 Rubist なんだけど、「三鷹」がつくなら地元民として一度は行っとくかな、な感じで Mitaka.rb & pgcafe Nite! に のこのこ行ってきた。 関係者＆参加者の皆さん、おつかれさまでした＆ありがとうございました。 会…

R でベイズ線形回帰の予測分布 にて、初 R しつつ、線形回帰の分布図とか書いてみてたら、idojun さんに「バイアス項は？」とつっこまれた。 うああ、忘れてた！ でもバイアス項ってどれくらい効いてくるの？ 無くてもそれっぽい分布得られちゃったんだけど…