文章全体の単語間の関連を一度に計算する Attention（注意機構）を積み重ねて意味を捉えます。ChatGPT や Claude の中心に使われる構造です。
一般語彙
566
Transformer
トランスフォーマー
体験区分：調査ベース
推奨読者レベル：Level 3
何をしてくれるか
どこで出会うか
「Transformer ベースのモデル」という表現で技術記事や論文解説に登場します。「なぜ AI が文脈を掴めるのか」を説明するキーワードです。
構造図
2026.04·ready
「今の LLM はほぼ Transformer ベースで、Attention が文脈を掴む要なんですよね。」
Transformerの見方
567
この用語の見どころ
1
役割
文章の意味を多層の Attention で捉え、生成モデルの骨格を担います。
2
うれしさ
単語の前後関係だけでなく文全体を並列に処理でき、長い文脈も扱えます。
3
注意点
アーキテクチャの名前であり、特定サービスや製品の名前ではありません。
4
どこで役立つか
LLM の仕組みを概念として理解したいとき、最初に押さえると全体像が整います。
5
はじめに
「Encoder が読み取り、Decoder が出力する」という大枠だけで十分です。
6
深掘り先
Attention、LLM（J-14）、Deep Learning（J-11）
非エンジニアのつまずき
- 以前の機械学習の限界点と Transformer がなぜ突破できたかを押さえないと、すごさが伝わりません。
私のコメント
- 第一印象:名前がかっこいいモデル、という印象です
- 良い点:Attention 機構でそれまでのボトルネックを一気に超えた点が革命的です。
- ダメな点:これ単体では現代の LLM にならず、他の工夫も含めないと理解が浅くなります。
- 誰向けか:LLM の仕組みをちゃんと理解したい人には必須の用語です
開発フローでの位置
学習前の設計
事前学習
ファインチューニング
推論・利用
関連用語
J-13·term_general
バイブコーディング図鑑