推論の連鎖を長くしたり複数案を出して選んだりして、答えるときの計算を増やし性能を底上げします。思考モデル・Effort Level・Chain of Thought の裏側にある原理です。
推論の連鎖を長くしたり複数案を出して選んだりして、答えるときの計算を増やし性能を底上げします。思考モデル・Effort Level・Chain of Thought の裏側にある原理です。
Claude や ChatGPT の thinking / effort 設定を上げ下げする場面で出会います。考えさせるほど賢くなる代わりに、回答にかかるお金と時間が増えるという形で体感します。
分岐する 2 本の道。左「学習を増やす道(事前学習・スケーリング則)」、右「考える時間を増やす道(推論時スケーリング)」
擬人化ポンチ絵 · 後日差し込み答えるときの計算量を増やして性能を上げる仕組みです。
学習をやり直さなくても、その場で賢さを底上げできます。
考えさせるほど費用と時間が増える取引です。
thinking / effort の設定を上げ下げする判断に役立ちます。
まず身近な思考モデルの effort 設定から触れてみます。
スケーリング則との伸び方の違い、計算配分の最適化
具体的な性能向上率は出典の帰属が確認できないため本文に記載していません。