…ideshare.netただ、しゃべり有り前提の資料なので、VRC-LT の録画を見るほうがいいかもしれません（↓のリンク先の1時間23分ごろから）。vrc-lt #15 お疲れ様でしたー！引き続き限定公開で、アーカイブの視聴が可能ですので、見逃した方やもう一回見たい方はどうぞです～ヽ(=´▽`=)ﾉ🌟 https://t.co/wHhy5gvMUp— kisugi@おじ会Vtuber (@kisugi_yazuma) 2022年11月26日 さて、CLIP を一言で説明する…

深層学習が著しく発展し、今まで人間にしかできないと思われていたことができるようになってきました。そのおかげで、今まで機械学習と縁が薄かった分野でも、機械学習を使った研究がしたいという声が上がるようになっています。 前々回は、それを裏付けるように非情報系の学生さんが機械学習を使った研究をしたいという応募がサイボウズ・ラボユースに増えているという話、前回はいままで機械学習や深層学習に縁のなかった人が何から勉強したらいいかという話を書きました。 今回はその続き、研究に必要な実験用 …

…l neural networks for sentence classification. arXiv preprint arXiv:1408.5882. TextCNN は畳み込みと max-pooling を組み合わせたテキスト分類器。発表時点では state-of-the-art だったんじゃあないかな？ モデルの詳細については解説ブログが結構あるので略。枯れたモデルは sklearn で誰でもサクッと書けるが、TextCNN の今ちゃんと動く実装は意外とあんまり無い…

タイトルは釣り。 「ベイズ統計の理論と方法」（渡辺澄夫）を読んでいて、2章でちょっと困っている。ベイズ統計の理論と方法作者:渡辺 澄夫発売日: 2012/03/01メディア: 単行本他の本には書かれていないようなことが注意書きにたっぷり書かれていたりして、普通に通読するだけでもおもしろいが、やっぱり紙と鉛筆でじっくり楽しむのが本筋かな。「本書を読むのに必要な予備知識は、大学初年度に習う線形代数と微分積分だけで十分」「（それに含まれない基礎数学が必要な）場所においては重要概念に…

…nt Dirichlet Allocation) でおなじみの Collapsed Variational Bayes を使ってみよう(Teh+2007, Asuncion+2009)。 Collapsed Variational Bayes ではまず変分近似を以下のように弱める。 ただしこれ以降 を 、 を 、 以外の 全体を で表す。 この仮定に基づき変分自由エネルギー を以下のように展開する。 ここで自由エネルギー を で最小化する代わりに、まず で最小化して、次に で…

…tical Society 23.2 (1994): 463-482. *1:本稿では触れないが、local differential privacy における privacy budget が一定の範囲で推定値の分散が一番小さくなるのは(式1)の形で表現できることが示せる。 *2: に依存しないので、観測データのループを書かなくていい。今回の Python 実装では、numpy.random.multinomial を選択肢の種類数である 回呼ぶだけで済んでおり、データ数の…

…o シーン ImageTracking が含まれており、これをビルドすれば簡単に試すことができる。 Nreal Developer の Image Tracking のドキュメントはそのサンプルの解説であり、イメージトラッキングのプログラミング方法は書かれていないため、ドキュメントを読んでも自分のアプリケーションに画像タグ機能を組み込むことはできない。 この記事では Nreal の Demo を参考に、画像タグ認識機能を組み込む方法を説明する。 まず最初に Nreal Dev…

…の NRHMDPoseTracker に ChangeTo6Dof() などが生えて、これをアプリ実行中に叩くことでトラッキングモードを動的に変更できるようになった。使い道は……思いつかない（笑）。この機能を使う最小サンプル。 以下のコンポーネントを作って、NRCameraRig に追加。 public class ChangeTrackingMode : MonoBehaviour { private NRHMDPoseTracker tracker; void Start…

…ideshare.net/AmadeusSVX/hololens-85758620 あとは、ここまでに書いたことと比べると些細な話だが、Nreal は公称 88g の「軽さ」をめちゃめちゃウリにしている。しかし実際に持って、掛けてみた感じはもうちょっと重く感じる。 また本記事ではほとんど触れなかった Nreal の本体であるコンピューティングユニット（こいつもめっちゃ熱くなる）は公称 140g なはずが、持った瞬間にわかる、それより絶対重い。 というわけで測ってみた。グラスの…

…ice) par.set <- list(axis.line=list(col="transparent"), clip=list(panel="off")) wf <- function(a) wireframe(z, screen=list(z=a,x=-60), par.settings=par.set, xlab="", ylab="", zlab="", zoom=1.2) png("normal-dist-3d.png", width=1100, height=6…

引き続き、確率の話が 1/3 もある入門本「わけがわかる機械学習」の宣伝エントリです。わけがわかる機械学習 ── 現実の問題を解くために、しくみを理解する作者:中谷 秀洋技術評論社Amazon2012年に深層学習が大規模画像認識コンペ(ILSVRC)で圧勝して以来、「機械学習をやりたい」という人より「深層学習(ディープラーニング)をやりたい」という人のほうが年々増えているように実感しています。 しかし「わけがわかる機械学習」という本には、深層学習に関する記述をかき集めても精々…

「わけがわかる機械学習」という本を書きました。 一言でいうと、「機械学習はなぜそんなことをしたいか・してもいいか」を解説する入門本です。わけがわかる機械学習 ── 現実の問題を解くために、しくみを理解する作者: 中谷秀洋出版社/メーカー: 技術評論社発売日: 2019/08/28メディア: 単行本（ソフトカバー）この商品を含むブログを見る目次を見るとわかりますが、機械学習の本をうたっていながら、なぜか確率の章が 3 個もあります。ページ数にして約80ページ。全体の 1/3 が…

… (とオマケの THETA V)で、使えば使うほど VR180 は過渡期の技術だなあと実感している。 今は VR/AR 向けの手軽な映像記録手段に VR180 と 360度カメラの他にないから、しばらく使い続けるけどね。最大の問題は、視点が固定されてしまうので 6DoF VR や AR(MR含む) で価値を発揮できないこと。 もう一つの問題は、（少なくとも今ある全ての VR180 カメラでは）瞳孔間距離に相当する2眼のレンズの距離が固定で、近い距離(50cm以内)の被写体をう…

…photogrammetry ツールの 3DF Zephyr が楽しくて、3D モデルにしたらおもしろそうと思うようなものを写真取りまくって試している。たとえばお寿司。 Photogrammetry(3DF Zephyr)でお寿司回してみた こうした 3D モデルはなにがしかのフォーマットで保存するわけだが、とりあえず最初に使った obj+mtl 形式をずっと使ってきた。後で調べると、まあずいぶんわんさかとある( Template:3Dファイル形式 - Wikipedia )…

Chainer v2による実践深層学習作者: 新納浩幸出版社/メーカー: オーム社発売日: 2017/09/15メディア: 単行本この商品を含むブログ (2件) を見るChainer について書かれた数少ない本。 この9月に v2 対応版が出た。が、v3 リリース秒読みの時期に……というツラミはある*1。 深層学習ライブラリは現状「泳ぎ続けなければ死ぬ」(アップデート止まったら、終わったのかな？ とか思っちゃう)ので、宿命的にしょうがないのかな。 社内でこの本の読書会とかして…

…d Memory Networks WebAssembly 複雑ネットワーク "Why does deep and cheap learning work so well?" "Sliding right into disaster" この勉強会の資料は一部公開されている。西尾さんの強化学習や、光成さんの暗号系などなど。 強化学習その1 強化学習その2 強化学習その3 強化学習その4 強化学習その5 『データ解析におけるプライバシー保護』勉強会 秘密計算 WASM（WebAs…

…d Memory Networks の実装を公開してたが、さらに社内勉強会の資料も公開する。 モデルもわかるように一応説明したつもり。 Memory Networks (End-to-End Memory Networks の Chainer 実装) from Shuyo Nakatani 以下、前記事で書き忘れたこと＋補足。 実装は CPU / GPU 両対応している。が、GPU の方が遅い(苦笑)。たぶんデータの渡し方が悪い＆モデルが小さいので、演算時間がオーバーヘッドを…

…で Memory Networks を実装してみることにした。 実は Memory Networks が、あまり好きではない。むしろ嫌いかもｗ。 だからこそ、食わず嫌いに陥らないために、いつもと違う雰囲気の中で実装してみようという志なわけだ。 と偉そうに言ってみたが、論文をろくに精読もしていない状態から3日間で実装するのはさすがに無謀で、合宿後も結構みっちりコード書いたり実験したりする羽目に(苦笑)。 Memory Networks とは、記憶した知識から質問にふさわしい情報…

岩波データサイエンス vol.2 の発刊を記念して、刊行トークイベント「統計的自然言語処理 - ことばを扱う機械」が 3月3日 に開催されました。 岩波データサイエンス Vol.2 : 岩波データサイエンス刊行委員会 : 本 : Amazon.co.jp トークイベント「統計的自然言語処理ーことばを扱う機械」（岩波データサイエンス Vol.2 刊行記念） - connpass イベントの様子はニコニコ動画さんで生中継されましたが、その録画は YouTube で公開させてもらっ…

…である。 と、あれこれ書いたが、当然、ここに書いてあることにも誤りが含まれている可能性はある。もし間違いなどあればご指摘歓迎。 IRM 実装編はまた今度。 【追記】 社内勉強会の資料公開した。 無限関係モデル (続・わかりやすいパターン認識 13章) https://www.slideshare.net/shuyo/infinite-relational-model 【／追記】 *1: と では数えている対象が異なるので、個人的にはどちらかは m とか記号を変えて欲しかった。

…Learning Better Embeddings for Rare Words Using Distributional Representations (@Quasi_quant2010 さん) 元論文 スライド Learning Better Embeddingsfor Rare Words Using Distributional Representations from Takanori Nakai Skip-Gram が流行ってるけど、レアワードの特徴を捉えるに…

因果推論、特に傾向スコアについて日本語で学ぼうとしたら、第一に名前が挙がるのは「調査観察データの統計科学」だろう。調査観察データの統計科学―因果推論・選択バイアス・データ融合 (シリーズ確率と情報の科学)作者: 星野崇宏出版社/メーカー: 岩波書店発売日: 2009/07/29メディア: 単行本購入: 29人 クリック: 285回この商品を含むブログ (26件) を見るところがこの本、数式を中心に難が多く、読み始めたはいいけど困っているという人がかなり多そうだ。実は社内の機械…

…1000] target = dict() data = [] for i, x in enumerate(labels): target[x] = i data.append([]) for i in xrange(1000): n = [] for N in xrange(1001): z = N + alpha p = [ni / z for ni in n] p.append(alpha / z) k = numpy.random.choice(len(p), p=p…

…gits_dataset(test_N = 400): import sklearn.datasets data = sklearn.datasets.load_digits() numpy.random.seed(0) z = numpy.arange(data.data.shape[0]) numpy.random.shuffle(z) X = data.data[z>=test_N, :] y = numpy.array(data.target[z>=test_N], …

…& python setup.py しよう。 http://lasagne.readthedocs.org/en/latest/user/installation.html#install-from-source インストール後、git clone した場所に examples というディレクトリがあって、かの MNIST を使ったサンプルコードが置いてある。 GPGPU が叩けない環境でも mnist.py と mnist_conv.py というサンプルは問題なく動くので、…

【追記】 本記事の内容は公式の正誤表ですでに修正済みです。第1版第4刷以降が出ることがあれば、そちらに反映されていることが期待されます。 続・わかりやすい パターン認識 －教師なし学習入門－ | Ohmsha 【／追記】 昨日は ぞくパタ読書会 にのこのこ行ってきた。主催者、発表者、参加者の皆さん、会場を提供してくださったドワンゴさんに感謝。続・わかりやすいパターン認識―教師なし学習入門―作者: 石井健一郎,上田修功出版社/メーカー: オーム社発売日: 2014/08/26メ…

…ゲームを作ろう #petitcom - 木曜不足 に出てきてないもの。 ■サンプル 1. 十字キーで移動(斜め移動できない) X=200:Y=120 SPSET 0,600 ' 600 は好きなキャラクタの番号に変えていいよ WHILE 1 B=BUTTON() IF B==1 THEN Y=Y-1 IF B==2 THEN Y=Y+1 IF B==4 THEN X=X-1 IF B==8 THEN X=X+1 SPOFS 0,X,Y VSYNC WEND キャラクタ(スプラ…

3DS でゲームが作れる プチコン3号。結構本格的なゲームも作れるくらい性能も自由度も十分ありつつ、ちょっとしたゲームをひょいと作れる手軽さもあって、久しぶりに1画面プログラムなゲームとかちまちま作って楽しんでたりする。 でも、いわゆるベーマガ世代をターゲッティングしすぎていて、プチコンで初めてのプログラミング、みたいなことは厳しめ。確かにあの頃の放り出し感は忠実に再現出来ているが、今のお子様はチュートリアルのあるゲームに慣れているわけで。 せめて入門本があったら良かったのだ…

…」 ACLS SPSET 0,600 SPOFS 0,200,120 「全然わかんない」 「後で説明したるし。でけたか？ そしたら START(スタート) ボタンを押して、初のプチコンプログラム実行や」 「START っと……。あ！ 真ん中にちっちゃいお姫様が出た！」「出たやろ？ じゃあプログラムの説明すんで。プログラムっつうのは……」 「ねえねえ、十字でもスライドパッドでもお姫様動かないんだけど。バグ？」 「動かすプログラム書いてないねんから動くかいな。なんで『バグ』とかそ…

【追記】 社内勉強会資料を整えて公開しました。 「調査観察データの統計科学」読書会資料を公開しました（数式周りをフォロー） - 木曜不足 【／追記】 みどりぼん(「データ解析のための統計モデリング入門」)を読み終わったから、というわけではないが、同じ岩波・確率と情報の科学シリーズの「調査観察データの統計科学」（星野崇宏）を読んでいる。調査観察データの統計科学―因果推論・選択バイアス・データ融合 (シリーズ確率と情報の科学)作者:星野 崇宏発売日: 2009/07/29メディア…