今日は小ネタ。OpenAI の text-embedding-ada-002(以下 ada-002) と text-embedding-3-small/large(以下 3-small) はテキストを埋め込みベクトルに変換するモデルの代表格で、3-small は ada-002 より精度が高いと言われますが、埋込モデルの精度が高いって…

「図解即戦力 ChatGPTのしくみと技術がこれ1冊でしっかりわかる教科書」、いよいよ本日発売です。 shuyo.hatenablog.com 本書は以下の8章から構成されています。目次からもわかる通り「ChatGPTの本」というより「ChatGPTのしくみ（や背景や歴史的経緯）の本…

拙著『図解即戦力 ChatGPT～』では、大規模言語モデルの文生成の様子を観察できるように、以下のような単語の生成確率による樹形図*1を掲載しています。図の枝は次の単語とその生成確率を表し、それぞれの単語のあとにまた続く単語確率の高い単語をつなげる…

9月24日に「図解即戦力 ChatGPTのしくみと技術がこれ1冊でしっかりわかる教科書」という本が出ます。タイトルは ChatGPT ですが、中身は大規模言語モデルの仕組みを解説する本になっています。gihyo.jp 図解即戦力 ChatGPTのしくみと技術がこれ1冊でしっかり…

王道ではないプログラミング漫画 - 木曜不足の続き。漫画の中身の話。プログラミング漫画『ぺたスクリプト』には、プログラマーってこういう生き物だよな～という自分の経験や体感をあれこれ盛り込みました。小学生のときにNHKの『マイコン入門』で覚えた BA…

2017年に『ぺたスクリプト』というプログラミング漫画を上梓しました。一言でいうと、「日常的なちょっとした困り事をプログラミングで解決する、実際に作れそうな『キテレツ大百科』」です。［プログラミング体感まんが］ぺたスクリプト 〜もしもプログラミ…