タイトル通りの小ネタ。gpt-oss-20bやgpt-oss-120bを使ってLangChain(またはLangGraph)によるAIエージェント的なものを作ろうと思ったら、LLM呼び出しは langchain_openai.ChatOpenAIクラスを使うのが一般的だろう。またAIエージェントが思わぬ理由で動かな…
せっかくの NPU 搭載 PC なのでそれを使ってプログラミングをしたい。しかし一口で "NPU" と言っても、各社ごとにアーキテクチャが全然違っていて、Vulkan や OpenCL のような横断的な標準ライブラリが存在しない*1。Microsoft は、Copilot+ PC の要件にせめ…
Ryzen AI に NPU を使わせるのは結構大変、という記事を書いたとたんに次のようなニュースが。xenospectrum.com www.amd.comAmuse の v3.1 で Stable Diffusion 3.0 Medium を NPU でバリバリ動くようにした、というニュース。NPU といっても最新の XDNA 2 …
今回は小ネタ。ミニPCのGMKtec EVO-X1を購入。フットプリントは11センチ四方くらいで、Intel N100搭載のミニPC(写真はBeelink)とほぼ同じ。わかりやすく言うと「あみぐるみ2個分」の大きさ。EVO-X1 は Ryzen AI 9 HX370*1と64GB のユニファイドメモリ、そこ…
『図解即戦力 ChatGPTのしくみと技術がこれ1冊でしっかりわかる教科書』が出版されて半年。図解即戦力 ChatGPTのしくみと技術がこれ1冊でしっかりわかる教科書作者:中谷 秀洋技術評論社Amazonふと「この本の図をブログ記事とかスライドとかで、ある程度自由…
今日は小ネタ。OpenAI の text-embedding-ada-002(以下 ada-002) と text-embedding-3-small/large(以下 3-small) はテキストを埋め込みベクトルに変換するモデルの代表格で、3-small は ada-002 より精度が高いと言われますが、埋込モデルの精度が高いって…
「図解即戦力 ChatGPTのしくみと技術がこれ1冊でしっかりわかる教科書」、いよいよ本日発売です。 shuyo.hatenablog.com 本書は以下の8章から構成されています。目次からもわかる通り「ChatGPTの本」というより「ChatGPTのしくみ（や背景や歴史的経緯）の本…
拙著『図解即戦力 ChatGPT～』では、大規模言語モデルの文生成の様子を観察できるように、以下のような単語の生成確率による樹形図*1を掲載しています。図の枝は次の単語とその生成確率を表し、それぞれの単語のあとにまた続く単語確率の高い単語をつなげる…
9月24日に「図解即戦力 ChatGPTのしくみと技術がこれ1冊でしっかりわかる教科書」という本が出ます。タイトルは ChatGPT ですが、中身は大規模言語モデルの仕組みを解説する本になっています。gihyo.jp 図解即戦力 ChatGPTのしくみと技術がこれ1冊でしっかり…
王道ではないプログラミング漫画 - 木曜不足の続き。漫画の中身の話。プログラミング漫画『ぺたスクリプト』には、プログラマーってこういう生き物だよな～という自分の経験や体感をあれこれ盛り込みました。小学生のときにNHKの『マイコン入門』で覚えた BA…
2017年に『ぺたスクリプト』というプログラミング漫画を上梓しました。一言でいうと、「日常的なちょっとした困り事をプログラミングで解決する、実際に作れそうな『キテレツ大百科』」です。［プログラミング体感まんが］ぺたスクリプト 〜もしもプログラミ…
2004年ごろに Google の猫で深層学習が一躍脚光を浴びたとき、画像認識は特徴抽出が難しいので深層学習で良い結果が出るが、自然言語処理は特徴量*1がリッチなので、深層学習を適用するのは難しいだろうと思っていた。 特徴量がリッチとは、例えば「ホームラ…
VRC-LT という VRChat 上で LT 大会を行うイベントに、のこのこ参加させてもらって、CLIP で画像検索の簡単なサービスを書いてみた話をしてきました。 主催の @haru2036 さん、発表者＆参加者の皆さん、ありがとうございました＆お疲れ様でした～。vrc-lt.or…
深層学習が著しく発展し、今まで人間にしかできないと思われていたことができるようになってきました。そのおかげで、今まで機械学習と縁が薄かった分野でも、機械学習を使った研究がしたいという声が上がるようになっています。 前々回は、それを裏付けるよ…
以前、「非情報系が機械学習を使う研究をしたいとき」という記事を書きましたが、内容の半分はサイボウズ・ラボユースの宣伝だったんで、今回はタイトル詐欺じゃあないことも書きます。いままで機械学習や深層学習に縁のなかった人が、それを使った研究を始…
機械学習(深層学習・人工知能を含む)が使われる領域は、自然言語処理や画像処理といった機械学習の近隣とみなされる分野が従来のメインストリートでしたが、最近はそれ以外の分野の人からも機械学習を使った研究をしたいという声がよく聞かれるようになって…
いきなりタイトルと話が違うが、DistilBERT で Sentiment Analysis を実装してみた。transformersのBERTでfine-tuningして、IMDB映画レビューを評判分析するコードを動かしてみた。https://t.co/6V3OF0YQgb基本はHuggingFaceの公式ドキュメントからリンクさ…
タイトルは釣り。 「ベイズ統計の理論と方法」（渡辺澄夫）を読んでいて、2章でちょっと困っている。ベイズ統計の理論と方法作者:渡辺 澄夫発売日: 2012/03/01メディア: 単行本他の本には書かれていないようなことが注意書きにたっぷり書かれていたりして、…
Randomized Response はアンケートの回答をランダム化することで、個人の回答は伏せつつ平均などの統計量を得る手法の1つ。 前回までの記事で、ランダム化された回答から真の割合を最尤推定とベイズ推定（ギブスサンプリング）で推定する方法とそれらの実験…
Randomized Response はアンケートの回答をランダム化することで、個人の回答は伏せつつ平均などの統計量を得る手法の1つ。 前回記事では、回答の割合の推定量を最尤推定で得る手順を紹介したが、割合の推定値が負になる可能性があることを示した。 shuyo.ha…
Randomized Response は、センシティブな質問を含むアンケートなどを実施するとき、個々人の回答を知らずにその統計量(yes の割合など)を得る手法の1つ。例えばキセル乗車や浮気などの発生割合を調べたいとき、「あなたはキセル乗車をしたことがありますか？…
日本でも 12月1日から一般販売が始まるとアナウンスされた AR グラス Nreal Light。www.moguravr.com大昔に注文した開発キットもまだ届いてない人がいっぱいいるのに……とか、8月に先行して一般販売が始まっているはずの韓国で買えたという話がまだ聞こえてこ…
AR グラス Nreal Light のアプリを開発するための NRSDK(Nreal SDK) for Unity のバージョン 1.4.8 がこの9月に出た。1.3.0 の次が 1.4.8 なのがちょっと謎。 Release Note のうち、機能追加にあたるのは以下の通り。 Added running state tips (temperature…
AR グラス Nreal Light の開発キットを1月に注文。 3月に届くはずが、コロナ禍のせい（だけかどうかわからないが）で遅れに遅れて8月にようやく到着。AR と言えば Microsoft の HoloLens が代表的な製品で*1、他に Magic Leap One などもあるけど、「電脳コ…
拙著「わけがわかる機械学習」では、2次の標準正規分布のグラフを平行法で立体視できる図で掲載しています。 平行法を知らない人、知ってても苦手な人には申し訳ないですが、ちょっとした遊び心ということで許してください。人間は右目からと左目からの視差…
引き続き、確率の話が 1/3 もある入門本「わけがわかる機械学習」の宣伝エントリです。わけがわかる機械学習 ── 現実の問題を解くために、しくみを理解する作者:中谷 秀洋技術評論社Amazon2012年に深層学習が大規模画像認識コンペ(ILSVRC)で圧勝して以来、「…
「わけがわかる機械学習」という本を書きました。 一言でいうと、「機械学習はなぜそんなことをしたいか・してもいいか」を解説する入門本です。わけがわかる機械学習 ── 現実の問題を解くために、しくみを理解する作者: 中谷秀洋出版社/メーカー: 技術評論…
VR180 という規格がある。端的に言うと、「180度の視野がある 3D (両眼立体視)」と解釈できるためのメタデータ作法。 QooCam と Insta360 EVO という VR180 カメラを手に入れて、身近な出来事いろいろを VR180 写真や動画で撮りまくっている。QooCam と Inst…
Oculus Go が出てから WebVR ( A-Frame ) でいろいろこっそり作ってみている。ノウハウもそこそこ溜まってきて、アウトプットしようかなと思いつつもサボりっぱなし（苦笑 いろんな角度から撮った写真から 3D モデルを生成する photogrammetry ツールの 3DF …
5月に発売されたスタンドアローン(ひも無し) VR ヘッドセットの Oculus Go が想像通りの良いものだったので、会社で100人くらいにかぶせて回ったり、Unity や WebVR でなんかちょこちょこ作ってみたりということを最近している。7/7 に銀座VR という、VR で…
