CPU が実行中のプログラムやデータを置く場所です。起動中のアプリは RAM 上に展開されます。電源を切ると消える揮発性メモリで、永続保存は SSD などが担います。
CPU が実行中のプログラムやデータを置く場所です。起動中のアプリは RAM 上に展開されます。電源を切ると消える揮発性メモリで、永続保存は SSD などが担います。
PC のスペック表で「16GB RAM」と表記されます。ローカル LLM を CPU で動かす際に RAM 容量がボトルネックになるという文脈で目にします。
CPU が実行中データを一時的に置く高速メモリです。
容量が多いほど大きなモデルや多タスクを捌けます。
電源断でデータは消える揮発性。永続保存は SSD 等が担います。
ローカル LLM の CPU 推論で RAM 容量がボトルネックになります。
RAM は CPU 用、VRAM は GPU 用と分けて覚えると混乱が減ります。
VRAM、CPU、SSD