プログラムの命令を順に読み取り、計算・判断・制御を担います。並列度は低いですが複雑な分岐処理が得意で、Intel Core・AMD Ryzen・Apple M など製品ごとに性能が異なります。
プログラムの命令を順に読み取り、計算・判断・制御を担います。並列度は低いですが複雑な分岐処理が得意で、Intel Core・AMD Ryzen・Apple M など製品ごとに性能が異なります。
ローカル LLM(大規模言語モデル)を自分のパソコンで動かす記事で「CPU 推論」として出会います。llama.cpp などで軽量モデルを動かす際、GPU なしで動くかが話題になります。
汎用命令を順次実行するコンピュータの制御中枢です。
GPU なしでも軽量 LLM をローカル動作させられます。
並列演算が苦手なため、大規模 LLM 推論には不向きです。
ローカル AI ツールの動作要件確認や環境選定の場面です。
CPU と GPU の役割分担の違いを把握することが出発点です。
GPU、RAM、Apple Silicon