AI
拙著『図解即戦力 ChatGPT~』では、大規模言語モデルの文生成の様子を観察できるように、以下のような単語の生成確率による樹形図*1を掲載しています。図の枝は次の単語とその生成確率を表し、それぞれの単語のあとにまた続く単語確率の高い単語をつなげる…
9月24日に「図解即戦力 ChatGPT」という本が出ます。タイトルは ChatGPT ですが、中身は大規模言語モデルの仕組みを解説する本になっています。図解即戦力 ChatGPTのしくみと技術がこれ1冊でしっかりわかる教科書作者:中谷 秀洋技術評論社AmazonChatGPTなど…
2004年ごろに Google の猫で深層学習が一躍脚光を浴びたとき、画像認識は特徴抽出が難しいので深層学習で良い結果が出るが、自然言語処理は特徴量*1がリッチなので、深層学習を適用するのは難しいだろうと思っていた。 特徴量がリッチとは、例えば「ホームラ…