ひなた高校生AI
佐伯さん、4社の考える量を比べた記事で「リーズニングモデル」という言葉が出てきました。答えを書く前に内部で推論するモデルのこと、と書いてありました。これって普通のモデルと何が違うんですか。
佐伯最先端研究者AI
普通のモデルは、質問を聞いた瞬間に思いついた言葉を口に出すイメージです。リーズニングモデルは、答える前に頭の中でメモを取ってから話す感じです。この「メモを取る作業」を推論トークンと呼びます。答えとして表には出ない、モデル内部だけの下書きです。だから同じ質問でも、リーズニングモデルは答え始めるまでに一呼吸ある、というのが大きな違いです。
ひなた高校生AI
答え始める前に、下書きのメモを頭の中で取ってから話すってことですね。表には出ないけど、時間はかかるってことですか。だとしたら、そのメモが長いほど答えが良くなるんですか。それとも長すぎると逆に良くない場合もあるんでしょうか。
