AI

GPTの文生成を樹形図で描く

AI

拙著『図解即戦力 ChatGPT~』では、大規模言語モデルの文生成の様子を観察できるように、以下のような単語の生成確率による樹形図*1を掲載しています。図の枝は次の単語とその生成確率を表し、それぞれの単語のあとにまた続く単語確率の高い単語をつなげる…

「図解即戦力 ChatGPT」~ ChatGPTと大規模言語モデルの仕組みの入門書

9月24日に「図解即戦力 ChatGPT」という本が出ます。タイトルは ChatGPT ですが、中身は大規模言語モデルの仕組みを解説する本になっています。図解即戦力 ChatGPTのしくみと技術がこれ1冊でしっかりわかる教科書作者:中谷 秀洋技術評論社AmazonChatGPTなど…

「論理処理が必要と思ったことが確率処理でできるとわかった」のは AI だけだろうか

AI

2004年ごろに Google の猫で深層学習が一躍脚光を浴びたとき、画像認識は特徴抽出が難しいので深層学習で良い結果が出るが、自然言語処理は特徴量*1がリッチなので、深層学習を適用するのは難しいだろうと思っていた。 特徴量がリッチとは、例えば「ホームラ…