context rot(コンテキスト腐敗)は、入力が長くなるほど応答の精度が下がっていく現象そのものを指す語です。文脈窓(コンテキスト窓)に余裕があっても起きるとされ、枠が広いモデルなら安心とは言えません。
context rot(コンテキスト腐敗)は、入力が長くなるほど応答の精度が下がっていく現象そのものを指す語です。文脈窓(コンテキスト窓)に余裕があっても起きるとされ、枠が広いモデルなら安心とは言えません。
長く続くエージェントのセッションや、資料を大量に読ませた会話で出会います。序盤は的確だった応答が、履歴が積み上がるうちに急に的外れになる場面で気づく人が多い現象です。
横軸を入力の「先頭・中央・末尾」、縦軸を「拾われやすさ」にした U 字カーブ。中央がへこんでいる形
擬人化ポンチ絵 · 後日差し込み長い文脈で応答精度が落ちる現象に名前をつけた語です。
原因不明の的外れ回答に、対策を考える手がかりを与えます。
文脈窓が広いモデルでも避けられないと報告されています。
長時間のエージェント運用や RAG 設計の判断で意識します。
会話が長引いたら要点を整理し直す習慣から始めます。
オートコンパクト、コンテキスト管理、リランキング
Chroma の検証(GPT-4.1・Claude Opus 4・Gemini 2.5 を含む最前線 18 モデル)では、試した全ての入力長でこの劣化が見られたと報告されています。