Transformer(トランスフォーマー)
Transformer/とらんすふぉーまー
ひとことで言うと
文中の言葉どうしの関係をまとめて見て意味をつかむ、いまのLLMの土台になっている仕組みです。
📖 もうちょい詳しく
何が新しいの?
Transformer(トランスフォーマー)は、文章のような「ならんだデータ」を扱うために2017年に提案された、 AIの設計(モデルの構造)です。
それまでは、文章を先頭から一語ずつ順番に読んでいく方式が主流でした。ただ、この読み方だと処理を並行して進めにくく、離れた言葉どうしのつながりも見落としやすい弱点がありました。Transformerは「Attention(アテンション、注意)」というしくみを中心にすえて、この弱点を大きく改善しました。
どうやって動いてるの?
Transformerの中心にあるのが、Attention(注意)という計算です。
これは、文中のそれぞれの言葉が「ほかのどの言葉と関係が深いか」を点数づけして、関係の強い言葉ほど重く見る、という仕組みです。たとえば「それ」が何を指すかを、文全体を見わたしながら判断できます。しかも全部の言葉を一度に見くらべるので、順番待ちが減り、計算をまとめて速く進められます。
つまり「順番に読む」のではなく「文全体を見わたして関係をつかむ」ことで、意味を取りやすくしているわけです。
何ができるの?
いまよく使われる対話型AIや翻訳、要約、文章生成の多くは、このTransformerを土台にしています。
名前のよく知られたGPTやBERTといったモデルも、Transformerをもとに作られています。言葉だけでなく、画像や音声を扱うAIにも応用が広がっています。
一方で、扱う文章が長くなるほど計算量がふくらみやすく、動かすのにそれなりの計算資源が必要になることが多いです。
🌱 身近なたとえ
Transformerで例えると、長い文章を読むときの「目線の配り方」に似ています。
わたしたちは「彼」と出てきたとき、前のほうに戻って誰のことかを確かめますよね。文を頭から一字ずつなぞるのではなく、関係しそうな場所へ視線をさっと向けます。Transformerも同じように、いまの言葉と関係の深いところへ注意を集める、という読み方をしています。
✅ まず覚えるポイント
- Transformerは、ならんだデータを扱うAIの設計(モデル構造)
- 中心にあるのは「Attention(注意)」という計算
- 文中の言葉どうしの関係を点数づけして意味をつかむ
- 全体を一度に見るので処理をまとめて速く進めやすい
- いまのLLMや対話型AIの土台になっている
🧭 よくある勘違い
TransformerとChatGPTは同じもの?
同じではありません。Transformerは「設計図」にあたる仕組みの名前です。
ChatGPTやGPTは、その設計図をもとに大量のデータで学ばせて作った、具体的な製品やモデルのことを指します。土台と完成品、という関係だと捉えると分かりやすいです。
文章を前から順番に読んでいるの?
学習のときは、文全体を一度に見わたして関係を計算しています。
ただし、文章を生成するときは、すでに出した言葉をもとに次の一語を予測する、という形で一語ずつ進めることが多いです。「読み」と「書き」で動き方が少し違う、と覚えておくと正確です。
Attentionがあれば必ず正しく答える?
そうとは限りません。Attentionは関係の強さを推測する計算であって、事実の正しさを保証するものではありません。
もっともらしい間違い(ハルシネーション)は起こりえるので、大事な内容は別途確かめる使い方が安全です。
🧩 関連して覚えると楽な言葉
- LLM: Transformerを土台にして作られる、言葉を扱う大きなモデル
- ディープラーニング: Transformerが属する、層を深く重ねて学ぶ手法
- ニューラルネットワーク: Transformerの部品になっている、脳をまねた計算のしくみ
- エンベディング: 言葉を数字の列に変えて、Transformerに渡す前の下ごしらえ
🏁 ひとことでまとめ
Transformerは、文全体を見わたして言葉どうしの関係をつかむ「Attention」を中心にした、AIの設計です。
順番に読むのではなく、関係の深いところへ注意を向ける——この発想が、いまの対話型AIの広がりを支えています。
TERM SEARCH
ほかの用語を調べる
検索ボックスを準備中…