LLM は同じプロンプトを何度実行しても同じ答えとは限らず、これを非決定論と呼びます。実行のたびに結果が変わるか、常に同じ結果になるかを区別する考え方です。
LLM は同じプロンプトを何度実行しても同じ答えとは限らず、これを非決定論と呼びます。実行のたびに結果が変わるか、常に同じ結果になるかを区別する考え方です。
同じプロンプトなのにレビューのたびにコードが変わる場面や、AI エージェントの挙動が実行ごとに違うと話題になる記事で見かけます。運用ルールを決める会議でも登場する語です。
左右 2 枚のカードを並べる。左「実行時に呼ぶ」はユーザーが AI(ロボットアイコン)に毎回話しかけ、吹き出しの答えが回ごとに少し違う形で並ぶ図。右「先に 1 回だけ呼ぶ」はユーザーが AI に 1 回だけ話しかけ、できあがった生成物(歯車アイコン)がそのまま何度も同じ動きを繰り返す図
擬人化ポンチ絵 · 後日差し込み同じ入力で結果が変わるか変わらないかを見分ける物差しです。
再現性が上がると検証やレビューがしやすくなります。
温度 0 でも完全再現とは限らないと報告されています。
同じ処理を繰り返す定型業務の設計判断で役立ちます。
実行時に AI を呼ぶか呼ばないかの違いが分かれば十分です。
Temperature、Compiled AI、リスクアセスメント
温度 0 の非決定性は Thinking Machines Lab の実測(同一プロンプトを 1,000 回実行し 80 種類の出力)に基づきます。