CoT（思考連鎖）

思考連鎖とは

思考連鎖（Chain of Thought, CoT）とは、LLM に対して推論の中間ステップを明示的に生成させることで、複雑なタスクの正答率を向上させるプロンプト技法である。

具体例で理解する

「りんごが 3 個、みかんが 5 個。合計は？」という問題に対し、LLM が直接「8」と答えるのではなく「りんご 3 個 + みかん 5 個 = 8 個」と途中経過を出力するよう誘導する。単純な足し算では差が出にくいが、多段推論や条件分岐を含む問題——たとえば法的要件の充足判断——では正答率が大幅に改善する。

プロンプトに「ステップバイステップで考えてください」と付け加えるだけでも効果がある。これを Zero-shot CoT と呼ぶ。

推論モデルとの関係

推論モデルは CoT をモデル内部に組み込んだ設計であり、プロンプトで誘導しなくても自動的に思考連鎖を生成する。一方、通常の LLM でもプロンプトエンジニアリングで CoT を引き出せるため、まずはプロンプト側で試し、精度が足りなければ推論モデルに切り替えるのが実務上のセオリーだ。

注意点として、CoT は出力トークン数を増やすためコストが上がる。全リクエストに適用するのではなく、精度が重要なクエリに限定して使うのが賢い運用と言える。