思考の連鎖（CoT）とは？AIに考える手順を書かせる技法

「途中の考えも書いてから答えて」と一言足しただけで、AI の回答が急に正確になった経験はないでしょうか。

同じモデルに同じ問題を出しているのに、結論だけを求めたときと途中を書かせたときで当たり方が変わります。

この現象に名前を付けたのが Chain of Thought（思考の連鎖）、略して CoT でした。

思考の連鎖（CoT）とは

CoT は、答えにたどり着くまでの中間ステップをモデル自身に出力させる手法です。

人が筆算の途中式を書くのと同じで、一度に飛び越えていた距離を小さな段差に分けて登らせる発想です。

起点は2022年1月に公開された Google の論文 Chain-of-Thought Prompting Elicits Reasoning in Large Language Models で、数個のお手本に推論の途中を書き添えるだけで、算術・常識・記号推論の精度が上がると報告されました。

言語モデルは、直前までの文脈から次のトークンを選び続けて文章を組み立てます。

結論だけを求められると、本来は何段も必要な推論を「1トークンぶんの跳躍」で片付けようとしてしまうのです。

途中を書かせると、その途中の文字列そのものが次の予測の手がかりとして文脈に積み上がっていきます。

答えを出すまでに使える計算量と作業メモを、出力トークンという形で稼いでいると考えると腑に落ちるでしょう。

だから CoT が効くのは、段階を踏む必要のある問題に限られます。

2024年9月に公開された論文 To CoT or not to CoT? Chain-of-thought helps mainly on math and symbolic reasoning は、100本を超える先行研究のメタ分析と、14モデル・20データセットでの評価をもとに、CoT の上積みは数学や論理の問題に集中していると結論づけました。

知識を問う MMLU では、式を扱う問題を除けば、途中を書かせても書かせなくても正答率はほぼ同じだったそうです。

手元で使い分ける目安として、私はこのあたりで線を引いています。

前者は途中を書かせるほど手がかりが増え、後者は増やしても文字数が伸びるだけでした。

途中を書かせる方法には、お手本を見せるやり方と、指示を一言足すやり方があります。

ひとつは、質問と一緒に「途中つきの解答例」を数個添える書き方です。

Q: リンゴが1箱に3個ずつ入っています。箱は4つあり、そこから5個食べました。残りは何個？
A: 1箱3個で箱が4つなので 3×4=12個。5個食べたので 12-5=7個。答えは7個。

Q: 1本120円のペンを7本買い、1000円札を出しました。おつりは？
A:

モデルは直前の例の形式を真似るので、答えだけでなく段取りまで模倣してくれます。

もうひとつは、お手本を用意せず指示を1行足すだけの方法です。

2022年5月の論文 Large Language Models are Zero-Shot Reasoners では、「Let’s think step by step」と添えるだけでも効果が出ると示されています。

次の問題を解いてください。
まず考えを段階ごとに書き出し、最後に「結論:」から始まる1行で答えを述べてください。

問題: ...

日本語でも「段階ごとに書き出してから結論を出して」と頼めば同じ働きをします。

近ごろのモデルは、この「途中を書く」動き自体を学習の段階で織り込んだ作りです。

利用者が毎回 CoT を指示しなくても、内部で長めの推論を回してから答えを返す設計が主流になりました。

この「推論モデル」の仕組みと向き不向きは、別の記事で掘り下げています。

実務で使うときに気をつけたいのは、コストと使いどころの2点でした。

途中を書かせるぶん出力トークンが増えるので、料金も応答時間もふくらみます。

トークンがどう数えられるのかを知っておくと、この増え方の見当が付けやすくなります。

CoT は、モデルに「考える時間」を出力トークンという形で渡す技法です。

効くのは多段の推論が要る問いに限られ、単純な質問では待ち時間と費用だけが増えていきます。

途中が読めるようになったぶん、その途中を鵜呑みにしない構えもセットで持っておきたいと思います。

以上です。